De 20-jarige bracht de tweede helft van het afgelopen seizoen op huurbasis door bij de Bundesliga-club, waar hij 11 wedstrijden speelde.
City zal een vergoeding van ongeveer €6 miljoen ontvangen voor de centrale verdediger, volgens berichten.
Simpson-Pusey kwam op 9-jarige leeftijd bij de academie van Manchester City en werkte meer dan een decennium door de jeugdopleiding van de club.
Hij leidde de Onder-18 van City naar de FA Youth Cup-overwinning in 2023-24 en werd later uitgeroepen tot Premier League 2 Speler van het Seizoen.
De verdediger maakte zijn senior debuut voor City in de Carabao Cup 2024-25, waar hij als invaller kwam in een nederlaag tegen Tottenham Hotspur, en maakte daarna nog vijf verdere optredens in het eerste elftal.
Hij bracht de eerste helft van het afgelopen seizoen op huurbasis door bij Celtic voordat die verhuizing werd afgebroken en hij in januari in plaats daarvan naar Köln werd gestuurd.
De algemeen directeur van Köln, Thomas Kessler, zei dat de club blij was om de langetermijntoekomst van Simpson-Pusey veilig te stellen na zijn impact tijdens de huurperiode.
"Jahmai heeft zich heel snel aangepast sinds zijn verhuizing in de winter en heeft de uitdaging op dit niveau onmiddellijk omarmd. Zijn prestaties hebben het potentieel laten zien dat hij bezit. We zijn des te blijer dat we nu zijn diensten op lange termijn hebben kunnen veiligstellen," zei Kessler.
Simpson-Pusey zei dat zijn ervaring in Duitsland hem overtuigde om zich permanent aan de club te verbinden.
"Ik heb veel minuten gespeeld en de club heeft veel vertrouwen in mij gesteld. Daar ben ik dankbaar voor en daarom wilde ik in Köln blijven," zei hij.
Simpson-Pusey bedankte Manchester City terwijl hij zijn tienjarige associatie met de club afsloot.
"Na iets meer dan een decennium bij Manchester City is mijn tijd als Blue ten einde gekomen. Het feit dat ik mijn senior debuut voor City heb gemaakt, zal altijd een speciale plek in mijn hart hebben," zei hij.
De verhuizing gaat door met City's patroon om te profiteren van academieafgestudeerden zodra hun ontwikkelingspad naar het eerste elftal minder duidelijk wordt.