Haaland scoorde op een cruciaal moment nadat Denemarken druk had gezet na de sterke start van Noorwegen, en vond ruimte uit een hoekschop om de gastland weer op voorsprong te zetten.
Riemer bekritiseerde de verdediging van Denemarken voor het doelpunt en stelde dat zijn spelers Haaland te veel ruimte gaven binnen het strafschopgebied.
"Noorwegen won op een enkel moment van briljant spel en een enorme fout van onze kant. Haaland is zo klinisch wanneer hij de kans krijgt," zei Riemer.
"Haaland heeft zo weinig ruimte nodig om wedstrijden te beslissen. Ik moet zeggen dat Noorwegen momenteel de beste spits ter wereld heeft."
De aanvaller van Manchester City eindigde met twee doelpunten en heeft nu 40 doelpunten in 33 wedstrijden op Ullevaal.
Zijn totale internationale record staat op 64 doelpunten in 56 wedstrijden voor Noorwegen.
Noorwegen aanvoerder Martin Ødegaard speelde ook een beslissende rol, door de assist te geven voor Haaland's tweede doelpunt.
"Wanneer een voetbalwedstrijd spannend is, zoals deze, zijn het spelers zoals Ødegaard en Haaland die beslissend zijn," zei Riemer.
Ødegaard was blij met de overwinning van Noorwegen, ondanks dat hij toegaf dat de gastland gebieden had om te verbeteren.
"Het smaakt goed. Het is fijn om de buren te verslaan," vertelde hij aan TV 2 Noorwegen.
"Er is veel dat we beter hadden kunnen doen, maar zelfs toen we onder druk kwamen, vonden we een manier om terug te komen en te reageren."
De middenvelder van Arsenal prees ook Pål Fjelde, die betrokken was bij de voorbereiding van Noorwegen's beslissende set-piece.
"We kunnen alleen maar Pål Fjelde prijzen. Hij heeft echt zijn huiswerk gedaan," zei Ødegaard.
De nederlaag was de eerste voor Denemarken tegen Noorwegen in een competitieve wedstrijd, terwijl Riemer's ploeg nu hun aandacht richt op de ontmoeting van zondag met Wales in Parken.