Ledarna kräver enhälligt att Gaddafi ska lämna makten enligt den franske presidenten.
Frankrike var det första landet som gav diplomatiskt erkännande åt övergångsrådet i Benghazi. Hittills har ingen följt det franska exemplet.
Sarkozy sade också att Frankrike utesluter intervention i Libyen på marken.
Sarkozy tillkännagav också att ett toppmöte ska hållas någon gång de kommande veckorna mellan EU, Arabförbundet och Afrikanska unionen.
Samtidigt meddelade UD i Berlin att en högt uppsatt tysk diplomat talat i telefon med den libyska oppositionens ”utrikesminister” Ali Aziz al-Eisawi.
På toppmötet enades ledarna om att utreda alla möjligheter att skydda civilbefolkningen från striderna i Libyen.
Ledarna uttryckte ”djup oro över attackerna mot civila”.
EU:s permanente ordförande Herman Van Rompuy sade att toppmötet enades om att oppositionen i Benghazi ska betraktas som legitim politisk kontakt.
Tysklands förbundskansler Angela Merkel sade att samtal med libyska rebeller har inletts, men att detta inte innebär ett erkännande av rebellernas råd.
- Det viktiga är att få stopp på våldsanvändandet i ett inbördeskrigsliknande scenario. Det är också tydligt att vi står redo att inleda en dialog med olika krafter som kan bygga ett annat och bättre Libyen, sade statsminister Fredrik Reinfeldt på väg in till mötet.
I utkastet till slutsatser som EU-ledarna ska enas om fanns en tydlig uppmaning till Muammar Gaddafi att avgå omedelbart.
- Det är en bankrutt ledare som använder vapen och våld mot sin egen befolkning, sade Reinfeldt.
Frankrike och Storbritannien, som är medlemmar i FN:s säkerhetsråd, förespråkar ett militärt ingripande för att slå ut Gaddafis styrkor och därmed skydda befolkningen.
I ett brev till EU:s permanenta ordförande Herman Van Rompuy fördömer Frankrikes president Nicolas Sarkozy och Storbritanniens premiärminister David Cameron Gaddafis våld mot civilbefolkningen och anger en flygförbudszon eller andra militära ingripanden som en möjlighet för att hindra Gaddafis flygattacker.
På väg in till mötet sade Sarkozy att han och Cameron var överens om att angrepp mot utvalda mål kan bli aktuellt om Gaddafi använder kemiska vapen eller anfaller oskyldiga medborgare. Men sådana militäraktioner måste bygga på stöd från FN, Arabförbundet och Libyens opposition.
Men Reinfeldt tycker inte att det är EU:s sak att besluta om militära insatser.
- Jag tycker att FN:s säkerhetsråd och Arabförbundet rimligen ska föra diskussionen om hur eventuell militär användning ska se ut. Jag tycker att EU:s roll mer är att vara redo att bygga dialog, institutioner, demokratistöd och säkerställa humanitär hjälp tillsammans med FN-systemet, sade Reinfeldt.
Tyskland vill att Europa orienterar sig om åsikterna hos Libyens grannländer och Arabförbundet innan beslut fattas om att erkänna rebellrådet, något Frankrike gjorde i går.
Libyen har meddelat att chargé d'affaires Abdelmagid Buzrigh i Sverige inte längre representerar landet, uppger Carl Bildts pressekreterare för TT.
Som en konsekvens har utrikesministern twittrat om att Sverige inte längre anser att den libyska ambassaden i Stockholm ”representerar något”.
Buzrigh lät i slutet av februari Gaddafi-kritiska demonstranter hissa rebellernas flagga på ambassadens flaggstång.
