Nel novembre 1926, l'Ospedaletto subì gravi danni, a seguito di una violenta alluvione che colpì la città di Bari, e fu chiuso per quasi tre anni. L'attività ospedaliera riprese solo, grazie all'intervento del podestà Arnaldo Di Crollalanza, alla fine del 1928, avendo il Comune provveduto alla rimozione del fango e il Governo risarcito i danni subiti dal fabbricato. Contestualmente alla riapertura furono portati a 200 i posti letto e inaugurati nuovi reparti.
L'Ospedale venne poi eretto in Ente Morale, con decreto di Mussolini del 7 aprile 1929 e, dopo l'istituzione della Università degli Studi di Bari, venne scelto quale sede della Clinica pediatrica universitaria posta sotto la direzione amministrativa dello stesso ospedaletto che, dotatosi nel 1936 di un buon servizio ambulatoriale di otorinolaringoiatria, fu classificato Ospedale Specializzato di 3^ categoria con decreto prefettizio n. 289112/27 del 5 agosto 1938.
Nel corso del secondo conflitto mondiale l'edificio fu danneggiato dai bombardamenti prima nel 1941, quando dovette rimanere chiuso per sei mesi, poi nel dicembre del 1943. Alla fine della guerra la situazione era la seguente: in via Trevisani era collocato il reparto pediatrico diretto dal prof. Trambusti dove erano in funzione oltre a 4 o 5 piccole corsie per i bambini e le mamme, due sale per la radiologia, una adibita a laboratorio, una alle medicazioni e due sale per il reparto ortopedico. Il reparto malattie infettive era, invece, ubicato in via B. Croce a Villa Elisa, già Villa XXVIII Ottobre. Con l'amministrazione Zippitelli, presidente dell'ospedaletto dal 1947 al 1952, si ebbe un ulteriore ampliamento e si provvide pure alla sistemazione organica del personale medico. La situazione rimase comunque precaria sia dal punto di vista dei locali e delle attrezzature, sia perché i sanitari per lo più non erano stipendiati, fatta eccezione per i direttori della Clinica Pediatrica e della Patologia Chirurgica che erano pagati dall'Università. Nel 1949 ebbe inizio la sopraelevazione del primo piano dello stabile per migliorare la capacità ricettiva dell'Ospedale. Così, tra il 1952 e il 1955, fu aperto un vero e proprio reparto di chirurgia e furono migliorati i servizi di radiologia e ortopedia. Contemporaneamente trovò una nuova sistemazione il reparto di medicina generale e fu istituito, in una vecchia villa padronale in via Amendola, il reparto per "Sub-acuti". Negli stessi anni, l'Ospedale ottenne, con decreto prefettizio del 5 maggio 1956, il passaggio dalla terza alla seconda categoria e, infine, il 24 giugno del 1960, alla prima. Nel 1960 venne istituito anche il servizio di Anestesia e Rianimazione e fu potenziato l'organico. Nel 1961, inoltre, si avviò l'istituzione di un nuovo reparto di Ortopedia e traumatologia che venne inaugurato nel 1964. Di pari passo si sviluppò anche la sezione di Odontoiatria. Sempre nel 1961, con d.p.r. del 25 agosto, l'Ospedale venne dotato dello stemma ufficiale a fondo azzurro, raffigurante un bambino biondo "fissante una piccola croce di rosso scorciata, posta nel cantone sinistro del capo, le braccia sollevate, le gambe divaricate su di un lenzuolo bianco; la destra piegata e la sinistra allungata". Nell'anno successivo, il reparto Infettivi venne trasferito presso l'Opera Borea di via Napoli e fu acquistato un suolo molto ampio, in via Amendola, destinato alla costruzione del nuovo Ospedale dove sarebbero stati trasferiti tutti i reparti. Il 27 settembre 1966, con decreto prefettizio n. 3338/Gab., il Consiglio di Amministrazione fu sciolto a seguito di episodi che testimoniavano un'amministrazione poco trasparenre e l'Ospedaletto commissariato.
Solo due anni dopo si ritornò alla normalità e vennero nominati, con delibera prefettizia del 9 marzo 1968, i nuovi componenti del Consiglio di Amministrazione. Nel frattempo, il 25 gennaio del 1968, era stato bandito un concorso nazionale per la progettazione del nuovo Ospedale che fu ultimato nell'aprile del 1977.
A seguito della legge n. 132/1968 di costituzione degli Enti ospedalieri, nel 1970, la struttura, già classificata come Ospedale regionale specializzato, venne dichiarata, con d.p.r n. 275 del 5 marzo 1970, Ente ospedaliero e qualche mese dopo si dotò di un nuovo statuto in cui, per la prima volta, compare la denominazione "Ospedale Pediatrico Giovanni XXIII".
Nello stesso anno venne stabilita l'annessione del Preventorio Antitubercolare "E. Germano" di Molfetta con approvazione del C.P.A.O. del 25 novembre e l'Ente si arricchì di ulteriori posti letto oltre che di personale medico e paramedico.
Negli anni più recenti, a seguito della riforma sanitaria e dell'istituzione del servizio sanitario nazionale, l'Ospedale è stato trasformato in presidio ospedaliero della USL BA/11 e poi, in attuazione ai dd.lgs. nn. 502/1992 e 517/1993, dopo un breve periodo in cui l'Ospedale è stato amministrato dall'azienda USL BA/4, a far data dal 1 gennaio 1996, il "Giovanni XXIII" è stato accorpato all'"Ospedale Di Venere" e trasformato in azienda ospedaliera "Ospedali Di Venere e Giovanni XXIII", con decreto del presidente della Giunta regionale pugliese del 16 novembre 1995 n. 682. Tornato, poi, ad essere amministrato dall'azienda USL BA/4 è stato accorpato con atto deliberativo n. 957 del 29/06/2004 all'azienda ospedaliera "Ospedale consorziale policlinico di Bari", che attualmente lo amministra.