Ab 1968 initiierte Grigorenko Diskussionen über die Notwendigkeit, der entstehenden Dissidentenbewegung organisatorische Formen zu geben. Er war glühender Verfechter der Gründung eines Menschenrechtskomitees. Diese Idee wurde, nachdem er bereits verhaftet worden war, mit der Einberufung der Initiativgruppe zur Verteidigung der Menschenrechte in der UdSSR umgesetzt.

Den Krimtataren half Grigorenko oftmals, er wurde ihr informeller Anführer im Kampf um die Rückkehr auf die Krim. Bei einem Bankett, das von krimtatarischen Vertretern in einem Moskauer Hotel zum 72. Geburtstag von Alexei Kosterin gegeben wurde, sagte Grigorenko: „Hört auf zu bitten! Nehmt das zurück, was euch dem Recht nach zusteht und was euch widerrechtlich genommen wurde!“ Am 17. Mai 1968 nahm er an einer Demonstration der Krimtataren vor dem Gebäude des Zentralkomitees der KPdSU teil und forderte, ihn zusammen mit den Tataren zu verhaften. Im Sommer 1968 stellte er Informationen über Verstöße gegen die Rechte der Krimtataren, die versuchten, von ihren Verbannungsorten auf die Krim zurückzukehren, für westliche Korrespondenten zusammen.

Grigorenko war Organisator der Trauerfeier für Alexei Kosterin, die eine eindrucksvolle erste Demonstration der Moskauer Opposition war. Grigorenko hielt die Trauerrede, die er mit folgenden Worten beendete: „Die Freiheit wird kommen! Die Demokratie wird kommen! Deine Asche wird auf der Krim ruhen!“ Grigorenko erstellte anschließend an der Zensur vorbei den Sammelband „Zum Gedenken an A. J. Kosterin“ (Pamiati A. J. Kosterina), der im November 1968 herauskam, und schrieb einen Aufsatz, der die Fälschung der Zahl der Toten bei der Deportation der Krimtataren 1944 durch sowjetische Behörden kritisierte.

Die sowjetischen Behörden versuchten, Grigorenkos Kontakte zur Bewegung der Krimtataren zu unterbinden: Am 19. November 1968 wurde auf Befehl der usbekischen Staatsanwaltschaft in seiner Moskauer Wohnung eine mehrstündige Hausdurchsuchung durchgeführt, wobei sein gesamtes Archiv konfisziert wurde. Auf Bitten von Krimtataren begann er im Frühjahr 1969, sich auf die Rolle als Bürgervertreter im Prozess gegen die Teilnehmer an den Ereignissen in Chirchiq (Usbekistan) vorzubereiten. Trotz Drohungen des KGB flog er mit der vorbereiteten Verteidigungsrede „Wer sind hier die Verbrecher?“ (Kto že prestupniki?) nach Taschkent, der Hauptstadt der Usbekischen SSR. Dort wurde Grigorenko am 7. Mai 1969 verhaftet, bis Oktober desselben Jahres in Untersuchungshaft des usbekischen KGB festgehalten und nach Paragraf 1 des Artikels 70 Strafgesetzbuch der RSFSR angeklagt. Vom 13. bis 28. Juni trat er aus Protest gegen seine rechtswidrige Verhaftung in den Hungerstreik, worauf hin man ihn zwangsernährte, schlug und erniedrigte. Seine Tagebucheintragungen über diese Zeit, das aus dem Gefängnis geschmuggelt werden konnte, wurde in der „Chronik der laufenden Ereignisse“ veröffentlicht.

Ein in Taschkent erstelltes gerichtspsychiatrisches Gutachten stellte fest, dass Grigorenko zurechnungsfähig sei. Diese Entscheidung stellte die Behörden nicht zufrieden, woraufhin er im Oktober 1969 nach Moskau gebracht wurde, wo Psychiater des Serbski-Instituts das Taschkenter Gutachten als fehlerhaft einstuften. Am 4. Dezember wurde er wieder zurück nach Usbekistan gebracht, wo der Prozess stattfinden sollte. Das Stadtgericht von Taschkent wies ihn am 27. Februar 1970 zur Zwangsbehandlung in ein psychiatrisches Krankenhaus besonderen Typs in Tschernjachowsk (Region Kaliningrad) ein.

Mit Grigorenkos Verhaftung begann innerhalb und außerhalb der Sowjetunion eine lebhafte Kampagne zu seiner Freilassung. Die Krimtataren protestierten vor dem Gefängnis in Taschkent. Auch auf einer krimtatarischen Demonstration am 6. Juni 1969 auf dem Majakowski-Platz in Moskau wurde seine Freilassung gefordert. Hunderte unterzeichneten eine entsprechende Petitionen und im Samisdat erschienen zwei wichtige Aufsätze: „Licht im Fenster“ (Svet v okonce) von Anatoli Lewitin-Krasnow und „Zur Verhaftung General Grigorenkos“ (K arestu generala Grigorenko) von Boris Zukerman. Zwei Studenten aus Skandinavien ketteten sich am 6. Oktober 1969 im Moskauer Warenhaus GUM an ein Geländer an und verteilten Flugblätter zur Verteidigung von Grigorenko. In Moskau und Leningrad fanden im Januar 1970 ähnliche Aktionen von norwegischen, italienischen und belgischen Menschenrechtsaktivisten statt. Mit der Verteidigung von Grigorenko begann auch Andrei Sacharow, regelmäßig für die Menschenrechte einzutreten. Im Samisdat wurde die anonyme Publikation „Externes psychiatrisches Gutachten in der Sache Grigorenko“ (Psichiatričeskaja zaočnaja ėkspertiza po delu Grigorenko) verbreitet; später bekannte sich Semen Hlusman dazu, sie verfasst zu haben. Als Wladimir Bukowski 1971 eine Kopie der Schlussfolgerungen aus gerichtspsychiatrischen Gutachten über Grigorenko und andere Dissidenten, die für unzurechnungsfähig erklärt worden waren, in den Westen schmuggelte, begannen westliche Mediziner, Druck auf sowjetische Psychiater auszuüben. In Amsterdam erschien 1973 eine Auswahl von Grigorenkos Texten unter dem Titel „Gedanken eines Verrückten“ (Mysli sumasšedšego), zu denen auch seine Gefängnistagebücher gehörten. Das Buch wurde im gleichen Jahr in England verfilmt.

Am 19. September 1973 wurde Grigorenko in ein psychiatrisches Krankenhaus allgemeinen Typs in der Nähe von Moskau verlegt. Am 24. Juni 1974 entschied das Moskauer Stadtgericht am Vortag des Staatsbesuches von US-Präsident Richard Nixon, seine Zwangsbehandlung einzustellen.

Kurz nach seiner Freilassung nahm Grigorenko seine dissidentischen Aktivitäten wieder auf. Er setzte sich für Mustafa Dschemiljew ein und unterschrieb eine Erklärung gegen die Pressekampagne gegen Andrei Sacharow, nachdem diesem der Friedensnobelpreis verliehen worden war. Grigorenko unterzeichnete den „Offenen Appell“ an die Delegierten und Gäste des XXV. Parteitags der KPdSU, der in der Sowjetunion und den anderen Ländern Osteuropas eine allgemeine Amnestie für politische Häftlinge forderte. Im Sommer 1977 unterschrieb er einen Brief an das Politbüro und kritisierte darin, dass die geplante Verfassungsänderung die Macht der kommunistischen Partei weiter ausweite. Zu dieser Frage gründete er das unabhängige Bulletin „Rund um den Verfassungsentwurf der UdSSR“ (Vokrug Projekta Konstitucii).

Grigorenko war Gründungsmitglied der Moskauer Helsinki-Gruppe, unterschrieb die meisten ihrer 1976/77 entstandenen Dokumente und war einer der Initiatoren der Arbeitskommission zur Erforschung des Einsatzes der Psychiatrie zu politischen Zwecken bei der Moskauer Helsinki-Gruppe. An der Gründung der Ukrainischen Helsinki-Gruppe beteiligte er sich ebenfalls als Gründungsmitglied. Er setzte sich für verhaftete Mitglieder der Helsinki-Gruppe ein, darunter Alexander Ginsburg, Juri Orlow, Anatoli Schtscharanski, Wladimir Slepak, Nikolai Rudenko, Olexa Tychyj und Swiad Gamsachurdia. Im Februar 1977 gab er die Broschüre „Unser Alltag“ (Naši budni) heraus, die die Bekämpfung der Helsinki-Bewegung durch den KGB thematisierte. Er führte außerdem den Kampf für die Rechte der Krimtataren fort und setzte durch, dass die Moskauer Helsinki-Gruppe eine Erklärung verabschiedete, die mit den Worten „Die Diskriminierung der Krimtataren dauert an“ begann.

Am 5. Dezember 1976 nahm Grigorenko an der regelmäßigen Demonstration von Menschenrechtsaktivisten auf dem Moskauer Puschkin-Platz teil (siehe Glasnost-Kundgebung) und hielt dort eine kurze Ansprache, in der er sagte: „Ich danke allen, die hierher gekommen sind, um an Millionen unschuldig getöteter Menschen zu erinnern! Ich danke euch auch dafür, dass ihr mit eurer Anwesenheit die Solidarität mit Gewissenshäftlingen zum Ausdruck bringt!“

Im November 1977 erhielt Grigorenko die Ausreisegenehmigung in die USA für eine halbjährliche medizinische Behandlung. Während seines Aufenthaltes in den Vereinigten Staaten enthielt er sich politischer Auftritte, trotzdem wurde ihm vom Präsidium des Obersten Sowjets am 13. Februar 1978 die sowjetische Staatsbürgerschaft wegen angeblicher „Handlungen, die eines Sowjetbürgers unwürdig sind“, entzogen. Auf einer daraufhin in New York einberufenen Pressekonferenz äußerte Grigorenko, dass dies der schmerzhafteste Tag seines Lebens sei: „Man hat mir das Recht genommen, in meiner Heimat zu sterben.“

Auf eigenen Wunsch unterzog sich Grigorenko 1978 in den USA einer psychiatrischen Begutachtung. Anzeichen für eine psychische Erkrankung wurden nicht gefunden: „Alle Eigenschaften seiner Persönlichkeit wurden von den sowjetischen Diagnostikern verzerrt. Dort, wo sie Zwangsvorstellungen diagnostizierten, haben wir Beharrlichkeit gefunden. Dort, wo sie Wahnvorstellungen feststellten, haben wir einen gesunden Menschenverstand gesehen. Wo sie Unbesonnenheit fanden, stellten wir eine konsequente Entschlossenheit fest. Was sie als pathologisch bewerteten, ist Ausdruck seiner seelischen Gesundheit.“

Grigorenko war fortan Vertreter der Ukrainischen Helsinki-Gruppe im Ausland. Im Exil verlor er endgültig seine kommunistischen Überzeugungen, wurde Mitglied der ukrainischen Exilgesellschaft in den USA und bekannte sich zum orthodoxen Glauben.

Pjotr Grigorenko starb 1987 in New York. Er wurde auf dem ukrainischen Friedhof in Bound Brook, New Jersey, beigesetzt.

Im November 1991 kam eine medizinische Kommission der Obersten Militärstaatsanwaltschaft nach erneuter Auswertung von Grigorenkos Akten zu dem Schluss, dass er gesund war. Nach dem Ende der Sowjetunion verlieh ihm der Präsident der Russischen Föderation 1993 posthum wieder den Dienstgrad eines Generalmajors. Nach Grigorenko sind eine Allee in Kiew und Straßen in verschiedenen Orten auf der Krim benannt.