Na de eerste verkiezingen waren de bevoegdheden van het Europees Parlement, ondanks zijn nieuwe democratische legitimiteit, nog beperkt. Veel mensen waren ontevreden over deze situatie, en meerdere Parlementsleden met een uitgesproken mening probeerden onmiddellijk aan te dringen op verandering — zo niet door wetgeving, dan toch in de praktijk. Zo wist het Parlement dankzij de uitbreiding van zijn begrotingsbevoegdheden een groeiend aantal beleidsterreinen te beïnvloeden. De spilfiguur onder deze politieke bemiddelaars was Altiero Spinelli, die al sinds de jaren 1940 een voorstander van Europese eenheid was.
Toen Spinelli en een aantal andere tegenstanders van het fascisme in 1941 gevangen zaten op het kleine eiland Ventotene, hadden ze een manifest voor een federaal Europa opgesteld. De Tweede Wereldoorlog woedde om hen heen en het leek hen duidelijk dat het internationale systeem niet terug kon naar de oude status quo zodra de oorlog voorbij was. Later werd Spinelli Europees commissaris en was hij in 1979 kandidaat bij de verkiezingen voor het Europees Parlement. Daarna stond hij aan het hoofd van de “Club Crocodile”, die was vernoemd naar het restaurant “Au Crocodile” in Straatsburg, waar de clubleden bijeenkwamen. Als leider van deze groep stelde Spinelli een ontwerpverdrag tot oprichting van een Europese Unie voor, een federalistische tekst die in februari 1984 door het Europees Parlement werd aangenomen. De politieke inzet van de komende verkiezingen was erg hoog.
In juni 1984 kon Griekenland voor het eerst stemmen als nieuwe lidstaat. Na verkiezingen met een opkomst van 59 procent werd Pierre Pflimlin uit Frankrijk gekozen als voorzitter van het Europees Parlement. Daarmee werd hij de eerste oud-premier van een lidstaat die het Parlement leidde. In 1987 nam de Brit Charles Henry Plumb het voorzitterschap over. Spanje en Portugal traden halverwege de zittingsperiode tot de Europese Gemeenschap toe. Daarom werden in 1987 voor deze landen gedeeltelijke verkiezingen gepland. Hoewel de lidstaten het ontwerpverdrag tot oprichting van een Europese Unie uiteindelijk niet hebben goedgekeurd, maakte de tekst toch de weg vrij voor baanbrekende ontwikkelingen, zoals de goedkeuring van de Europese Akte en uiteindelijk de oprichting van de Europese Unie.
