Alexander Ginsburg wurde 1936 in Moskau geboren. Seine Mutter zog ihn allein groß, da sein Vater, ein bekannte Architekt und Redaktionsmitglied der Zeitschrift „Sovremennaja architektura“ (Zeitgenössische Architektur), 1936 verhaftet worden und im Gefängnis gestorben war. Als Ginsburg Anfang 1953 einen Personalausweis bekam, nahm er aus Protest gegen die im Land entfesselte antisemitische Kampagne den jüdischen Nachnamen seiner Mutter an. 1956 begann er ein Studium an der Fakultät für Journalistik der Moskauer Universität, arbeitete am Theater und beim Fernsehen und war Korrespondent der Zeitung „Moskovskij Komsomolez“ (Moskauer Komsomolze). Ende der 50er Jahre näherte er sich den Künstlern und Literaten der Lianosowo-Gruppe an, nahm an den Sonntagstreffen von Oskar Rabin teil und war Mitorganisator einiger nichtoffizieller Kunstausstellungen.
1959 diskutierte Ginsburg mit dem Dichter Genrich Sapgir und einigen anderen Personen aus dem Umfeld der nonkonformistischer Künstler über die Idee, eine mit der Schreibmaschine vervielfältigte Zeitschrift herauszugeben, in der literarische Werke – an erster Stelle Gedichte – veröffentlicht werden sollten, die in den offiziellen Verlagen auf Zensurbarrieren stießen. Ende des Jahres verwirklichte er diese Idee und gab im Kreis seiner Bekannten die erste Nummer des Poesiealmanachs „Sintaksis“ (Syntax) in Moskau heraus. Dort erschienen bislang unveröffentlichte Gedichte von Natalja Gorbanewskaja, Genrich Sepgir, Igor Chlin, Nikolaj Glaskow, Alexander Aronow, Bulat Okudschawa, Bella Achmadulina und anderen Dichtern.
Höchstwahrscheinlich war „Sintaksis“ nicht die erste Publikation dieser Art, aber frühere Versuche, eine Zeitschrift unter Umgehung der Zensur herauszugeben, kamen nie über den engen Kreis der Initiatoren selbst hinaus und erreichten keine größere gesellschaftliche Bekanntheit. Mit „Sintaksis“ war das anders. Es wurde begonnen, über die Zeitschrift zu sprechen, sie erreichte ein relativ breites Publikum mit einer – unterschiedlichen Einschätzungen zufolge – Auflage von 300 Stück und wurde zu einer bedeutenden Erscheinung des kulturellen und gesellschaftlichen Lebens. Die Mehrheit der Sowjetforscher geht heute davon aus, dass „Sintaksis“ das erste Periodikum in der Geschichte des Samisdat darstellt. Grundlegend neu war außerdem, dass es sich nicht nur um eine Untergrundzeitschrift im traditionellen Sinne handelte. Auf dem Einband waren die Namen und Adressen der Herausgeber angegeben, was auf die Leser einen tiefen Eindruck machte. Das von Alexander Ginsburg entwickelte Modell einer verlegerischen Tätigkeit wurde zum Vorbild für andere Initiativen von Dissidenten in der zweiten Hälfte der 60er und 70er Jahre. Auch im Ausland wurde über „Sintaksis“ berichtete; die Zeitschrift „Grani“ druckte sie 1965 in Nr. 58 nach. Auch die sowjetische Presse meldete sich zu Wort. 1960 erschien in der „Izvestija“ ein spöttischer Artikel unter dem Titel „Die Müßiggänger erklimmen den Parnass“.
Alexander Ginsburg gab drei Ausgaben der Zeitschrift heraus. In der dritten Ausgabe stellte er die Leningrader Dichter Gleb Gorbowski, Alexander Kuschner, Dmitri Bobyschew und Josef Brodsky vor. Die vierte und fünfte Ausgabe konnte er noch teilweise vorbereiten. Nach seinen Plänen sollten in der vierten Ausgabe Leningrader und in der fünften Ausgabe Dichter aus den baltischen Republiken publizieren. Außerdem begannen Ginsburg und seine Freunde Juri Galanskow, Natalja Gorbanewskaja und Wladimir Ossipow, eine zweite Zeitschrift mit dem Titel „Vtoraja kultura“ (Zweite Kultur) vorzubereiten, in der neben Poesie und Prosa auch publizistische Texte erscheinen sollten. Im Juli 1960 wurde Ginsburg jedoch verhaftet.
Die Bemühungen des KGB, Ginsburg nach Artikel 7 des Gesetzes über Staatsverbrechen vom 25. Dezember 1958 (siehe Artikel 70 Strafgesetzbuch der RSFSR) zu belangen, blieben erfolglos. Er wurde nach einem „unpolitischen“ Paragrafen wegen Urkundenfälschung angeklagt, nachdem herausgekommen war, dass er für einen Studienkollegen an der Abendschule eine Prüfung abgelegt hatte, wofür das Foto dieses Kommilitonen in dessen Ausweis überklebt worden war. Ginsburg erhielt die Höchststrafe von zwei Jahren Freiheitsentzug.
Nach seiner Freilassung im Sommer 1962 kehrte Ginsburg nach Moskau zurück und arbeitete als Dreher, Beleuchter beim Fernsehen und Hausmeister im Literaturmuseum. Er versuchte, im Haus der Kultur des Moskauer Energetik-Instituts eine Aufführung französischer Filme über Picasso und andere europäische Maler zu organisieren, die Vorführung wurde jedoch nicht zugelassen und die Filme konfisziert.
1964 wurden bei Ginsburg zahlreiche Bücher beschlagnahmt, unter anderem „Die neue Klasse“ von Milovan Đilas, die er von den Veranstaltern einer Ausstellung amerikanischer Grafik in Moskau erhalten hatte. Aus diesem Grund wurde Ginsburg Anfang 1965 erneut verhaftet, nach drei Tagen jedoch wieder freigelassen nachdem er zugestimmt hatte, einen offenen Brief zu unterzeichnen, in dem er sich von der Aufmerksamkeit distanzierte, die die westliche Presse seiner Person entgegenbrachte. Dieser Brief erschien am 3. Juni 1965 ohne das Wissen Ginsburgs mit einer Reihe redaktioneller Ergänzungen in der Zeitung „Večernaja gazeta“ (Abendzeitung).
1966 begann Ginsburg ein Abendstudium am Moskauer Institut für Geschichte und Archivkunde. Im gleichen Jahr trug er alle zugänglichen 165 Dokumente über den Prozess gegen Andrei Sinjawski und Juli Daniel zusammen und gab sie als „Weißbuch“ (Belaja kniga) heraus, das große Bekanntheit erlangte. Auf diese Weise begründete Ginsburg eine neue Literaturgattung des Samisdat: die Dokumentation politischer Prozesse. Im Oktober und November 1966 wurde das „Weißbuch“ an offizielle sowjetische Institutionen versandt, einigen Kulturschaffende übergeben und im Ausland veröffentlicht.
Am 23. Januar 1967 wurde Ginsburg zum dritten Mal verhaftet. Sein Prozess wurde mit den Prozessen von einige Tage zuvor verhafteten Bekannten – Juri Galanskow, Alexei Dobrowolski und Wera Laschkowa – zusammengefasst. Alle vier wurden der Herstellung und Verbreitung antisowjetischer Literatur und der Kontaktaufnahme zu antisowjetischen Einrichtungen im Ausland bezichtigt. Ginsburg wurde wegen dreier Texte des „Weißbuchs“ angeklagt.
Der Prozess fand vom 8. bis 12. Januar 1968 im Moskauer Stadtgericht statt. Ginsburg wurde nach Artikel 70 Strafgesetzbuch der RSFSR für schuldig befunden und zu fünf Jahren Haft verurteilt. Dieser sogenannte Prozess der Vier löste eine große Resonanz in der Sowjetunion und weltweit aus. Mit ihm setzten Petitionskampagnen ein, die Konsolidierung der Menschenrechtsbewegung in der UdSSR fand damit ihren Abschluss.
Seine Strafe verbüßte Ginsburg in den mordwinischen Lagern und im Wladimir-Gefängnis. Nach der Freilassung ließ er sich in Tarussa im Gebiet Kaluga nieder, wo er unter Polizeibewachung stand. Als der aus der UdSSR ausgewiesene Alexander Solschenizyn 1974 die Gründung eines russischen sozialen Hilfsfonds für politische Häftlinge und ihre Familien bekannt gab, übernahm Ginsburg die Verwaltung des Fonds.
Im Mai 1976 war Ginsburg Mitgründer der Moskauer Helsinki-Gruppe. Er verfasste und redigierte Dokumente über die Situation der politischen Häftlinge in der UdSSR, woraufhin seine Wohnung wiederholt durchsucht, er verhört und festgenommen wurde.
Im Januar 1977 stellte KGB-Chef Juri Andropow dem ZK der KPdSU einen Bericht mit Vorschlägen zur Verhaftung einer Reihe von Personen vor, die an der Spitze der sowjetischen Helsinki-Bewegung stünden und zu denen auch Ginsburg gehörte. Am 2. Februar desselben Jahres veröffentlichte die „Literaturnaja Gazeta“ (Literaturzeitschrift) den Artikel „Lügner und Pharisäer“ des Literaten und ehemaligen politischen Häftlings Alexander Petrow-Agatow. Darin wurden Ginsburg die Zuarbeit für westliche Geheimdienste sowie persönliche Vorteilsnahme und die intransparente Verwaltung des Hilfsfonds unterstellt. Ginsburg konnte noch eine Pressekonferenz ausrichten, auf der er einen Rechenschaftsbericht über die Tätigkeit des Hilfsfonds für die letzten drei Jahre präsentierte, bevor er am 3. Februar ein viertes Mal verhaftet wurde.
Der Prozess gegen Ginsburg fand vom 10. bis 13. Juli 1978 vor dem Gebietsgericht in Kaluga statt. Den Hauptanklagepunkt bildete die Mitwirkung an der Erstellung von Dokumenten der Moskauer Helsinki-Gruppe. Ginsburg wurde nach Paragraf 2 von Artikel 70 Strafgesetzbuch der RSFSR schuldig gesprochen und zu acht Jahren Lagerhaft mit strengem Vollzug und drei Jahren Verbannung verurteilt. Die Strafe trat er erneut in den mordwinischen Lagern an.
Nach Verhandlungen zwischen der UdSSR und den USA, von denen Ginsburg nichts wusste, wurde er im April 1979 gemeinsam mit vier anderen politischen Häftlingen gegen zwei sowjetische Bürger ausgetauscht, die in den USA wegen Spionage verurteilt worden waren. Ginsburg lebte zunächst in den USA und später in Frankreich. Er leitete das Russische Kulturzentrum in Montgeron bei Paris und wurde anschließend bis Oktober 1997 Chefkommentator der Pariser Exilwochenzeitung „Russkaja Mysl“ (Russisches Denken).
Alexander Ginsburg starb 2002 in Paris.