Rifiuta l'offerta di collaborazione che la Giunta gli proponeva e per questo è sottoposto a tortura. Giudicato dai tribunali militari il 3 novembre 1968, viene condannato a morte il 17 novembre 1968 e conseguentemente trasportato all'isola di Egina per l'esecuzione. Ma grazie alle pressioni della comunità internazionale, oltre al timore da parte del regime di farne un martire, la sentenza non viene eseguita e così il 25 novembre 1968 viene tradotto nella prigione militare di Boiati.
Il 5 giugno 1969 evade per la prima volta di prigione; dopo essere stato arrestato tenta nuovamente di scappare, viene condotto provvisoriamente alla caserma di Goudi prima di essere riportato, un mese dopo, alla prigione di Boiati, dove fu chiuso in isolamento totale in una cella costruita appositamente per lui. La cella era una stanza seminterrata di due metri per tre con una piccola anticamera. Nel 1970 subisce un attentato in prigione: mentre è in sciopero della fame rischia di morire nell'incendio della sua cella. Nello stesso periodo l'intellettuale e politico francese Jean-Jacques Servan-Schreiber tenta di farlo liberare, ma ottiene invece la consegna di un altro prigioniero, il compositore Mikīs Theodōrakīs, che aveva musicato alcune sue poesie.
Nei tre anni e mezzo passati nella tomba – questo il soprannome dato alla cella – tentò più volte di evadere nuovamente senza successo. Nella prigione di Boiati ha scritto i suoi poemi migliori sulle pareti della sua cella o su pezzi microscopici di coperta, spesso con il suo stesso sangue (in alcuni momenti della prigionia gli fu impedito di tenere con sé carta e penna). Mentre era ancora in prigione fu pubblicata a Palermo nel 1972 dall'editore Flaccovio la sua prima raccolta di poesie, tradotte in italiano con testo greco a fronte, dal titolo Altri seguiranno: poesie e documenti dal carcere di Boyati, a cura di Kris Mancuso, presentazione di Ferruccio Parri, saggio introduttivo di Pier Paolo Pasolini, e una interessante CRONACA, a cura di Kris Mancuso. Per questa raccolta Panagulis ha ricevuto il Premio Viareggio Internazionale.
Il 21 agosto 1973 viene finalmente liberato, grazie all'amnistia. Il giorno successivo conosce la scrittrice e giornalista fiorentina Oriana Fallaci che diventerà la sua compagna di vita. Si esilia di nuovo, questa volta a Firenze, in Italia, nella casa di campagna della Fallaci a Greve in Chianti, per dare una nuova forza alla resistenza greca.
Dopo la sua liberazione fu pubblicata a Milano la sua seconda raccolta di poesie sotto il titolo Vi scrivo da un carcere in Grecia, prefazione di Pier Paolo Pasolini, Milano, Rizzoli, 1974; la pubblicazione in italiano fu successiva ad altre sue pubblicazioni in greco, quale per esempio la raccolta chiamata La vernice (H Bogia).
Nel 1974 la Giunta abdica e vengono indette elezioni democratiche. Panagulis, piuttosto restio a partecipare alla politica dei partiti, comprende che per continuare la sua azione deve entrare in parlamento, e per questo si presenta alle elezioni del novembre 1974 con l'Unione del Centro - Nuove forze (E.K. - N.D.), un partito di ispirazione liberale progressista, liberaldemocratica, derivato dal movimento di cui aveva già fatto parte e guidato dall'ex premier Georgios Papandreou. Diventa anche presidente dell'E.DI.N (3 settembre) e due mesi dopo viene eletto deputato del collegio di Atene.
Soffre di problemi respiratori e di altro tipo a causa delle ossa rotte a bastonate e delle lesioni a organi interni riportate durante i pestaggi subiti in prigione. Nello stesso periodo testimonia al processo contro i suoi aguzzini, gli ufficiali Malios e Babalis, il direttore di Boiati Zakarakis e il maggiore Teofilojannacos, ma chiede che non venga loro inflitta la pena di morte poiché si tratta di meri servi del regime di Papadopoulos e di Dīmītrios Joannidis. Manifesta invece un profondo disprezzo per il capo degli inquisitori, il colonnello della polizia militare Nicholas Hazizikis che riuscì a scampare ai processi.
Come deputato prosegue la caccia ai politici che avevano collaborato con il regime dittatoriale. Poco dopo la sua elezione rompe con la leadership del suo partito dopo aver chiesto invano l'epurazione di un suo componente, del quale aveva accertato la complicità con il vecchio regime. Era riuscito infatti ad ottenere in modo rocambolesco dei documenti dell'ESA (i servizi segreti ellenici) che provavano i rapporti di collaborazione tra alcuni politici e la Giunta, primo tra tutti Evangelos Averoff, il quale, essendo Ministro della Difesa e quindi capo di un esercito ripulito solo in parte dai generali corrotti, aveva un potere maggiore del Presidente della Repubblica. Deluso dà le dimissioni dal partito ma conserva la sua poltrona nel Parlamento ellenico come indipendente. Col passare del tempo, soltanto la Fallaci, nonostante alcuni duri scontri nella coppia, resta al suo fianco in questa battaglia. Per mesi è oggetto di pressioni e di minacce di morte, le quali aumentano dopo l'inizio delle pubblicazioni del dossier relativo agli agenti di sicurezza del regime dei colonnelli su un giornale ellenico, su iniziativa dello stesso Panagulis
La notte tra il 30 aprile ed il 1° maggio 1976, mentre rientrava a Glifada, sua città natale nei dintorni della capitale, Panagulis rimane vittima di un misterioso incidente automobilistico in viale Vouliagmenis, ad Atene. L'inchiesta ufficiale affermerà che si era trattato soltanto di un errore dello stesso Panagulis, la cui vettura, una Fiat 131, era finita nello scivolo di un'autorimessa. Erano giunte a conclusioni ben diverse le perizie degli esperti italiani, i quali avevano parlato di un incidente provocato ad arte tramite speronamento da parte di due automobili di grossa cilindrata.
Secondo la Fallaci e altri, uno degli esecutori materiali dell'omicidio andava riconosciuto in Michele Steffas, militante di destra con un passato di pilota professionista in Canada. Questi si era presentato spontaneamente alla polizia il 3 maggio come testimone dei fatti, sostenendo la tesi dell'errore umano. Verrà in seguito condannato a pagare una multa per omissione di soccorso, ma le sue responsabilità non verranno mai provate
Il funerale di Panagulis, svoltosi nella cattedrale di Atene il 5 maggio, divenne la più grande manifestazione di popolo della storia greca. Quel giorno infatti giunsero ad Atene circa un milione e mezzo di persone.
Un monumento lo ricorda nel luogo della morte, mentre la tomba si trova nei pressi di Atene. A Firenze, nel Cimitero degli Allori, accanto a dove è stata poi sepolta Oriana Fallaci, si trova un altro cippo commemorativo.
Panagulis è il protagonista di Un uomo (1979), bestseller di Oriana Fallaci, sua compagna di vita dal 1973 al 1976, testo che, insieme alla lunga intervista allora concessa alla stessa, lo rese celebre in tutto il mondo come simbolo della resistenza ai regimi autoritari. Le sue poesie sono state composte in musica da Mikīs Theodōrakīs e da Ennio Morricone nell’opera Non devi dimenticare (1979)