Inicialmente denominada Casa de Saúde Nossa Senhora da Conceição, o hospital foi pensado por Jahyr Boeira de Almeida, que, com recursos próprios comprou um terreno a algumas quadras do Hospital Cristo Redentor, que também pertencia a ele. Ali na Avenida Francisco Trein, nº 596 construiu um prédio de 5 pavimentos e 44 apartamentos, inaugurado em 1962, para prestar assistência médica a pessoas idosas que comprassem os apartamentos. Além dessa estrutura o local contava ainda com hotel e restaurante para atender familiares e pessoas internadas no Cristo Redentor. Em 1964 a Casa de Saúde foi transformada em Hospital e passou a se chamar Hospital Nossa Senhora da Conceição, com mais de 600 leitos e abrigando alguns setores do Cristo Redentor. Ocorreu uma ampliação de suas instalações em 1966 e a criação do heliporto, que em 1968 deu origem ao Serviço Aéreo Especializado Médico-Hospitalar Conceição, pioneiro no Brasil, destinado ao transporte de pacientes por terra, mar e ar, atendendo o interior e algumas cidades fora do RS. Em 1973 foi novamente ampliado , instalando-se os serviços de Instituto do Coração,de Nefrologia e o Centro Integrado de Tratamento Intensivo. Desde a sua desapropriação realizada por Ernesto Geisel, em 20 de fevereiro de 1975, o hospital faz parte do Grupo Hospitalar Conceição, juntamente como os Hospitais Criança Conceição, Fêmina e Cristo Redentor, que sob intervenção federal formaram um grupo com gerenciamento centralizado, subordinado inicialmente a Presidência da República e, a partir de 1990 ao Ministério da Saúde.Em 2003 o grupo passou a ser 100% SUS.
ALVES, Gabrielle Werenicz; SILVA, Jaisson Oliveira da. Grupo Hospitalar Conceição In. WEBER, Beatriz Teixeira; SERRES, Juliane C. Primon. Instituições de Saúde em Porto Alegre - Inventário. Porto Alegre: Ideograf, 2008, p.82.