UE impune utilizarea „filigranelor” pentru a indica faptul că un conținut a fost creat cu ajutorul inteligenței artificiale, iar marile companii din domeniul tehnologiei se conformează acestei cerințe.
Detectoarele de IA, fie ele umane sau de altă natură, sunt pe cale să primească cel mai mare impuls din istorie odată cu noile cerințe ale UE privind „filigranarea”, care au intrat în vigoare luna aceasta și care ar putea schimba radical modul în care utilizatorii de internet percep și interacționează cu imaginile, videoclipurile și textele generate de IA.
Încă de la apariția IA generative la sfârșitul anului 2022, au existat temeri că dominația acesteia ar putea marca sfârșitul așa-numitului „adevăr fotografic”: ceea ce vezi este, în mod implicit, adevărat. Deși marile companii din domeniul IA au declarat că doresc să abordeze acest risc prin identificarea provenienței conținutului generat de modelele lor, eforturile lor au fost în mare parte voluntare.
Acum, legiuitorii Uniunii Europene solicită ca utilizatorii de internet să fie informați dacă interacționează cu IA și dacă conținutul pe care îl văd este generat de boți sau creat de un om.
Luni, gigantul american din domeniul IA, Anthropic, a anunțat că toate modelele sale viitoare vor suporta aplicarea de filigrane pentru a se conforma normelor UE.
„Nu cred că oamenii înțeleg amploarea schimbării”, a declarat Ashley Casovan, director general al centrului de guvernanță în domeniul IA din cadrul organizației de experți IAPP, specializată în confidențialitate și IA. Ea a descris trecerea de la o lume în care oamenii trebuiau să ia o „decizie în cunoștință de cauză” cu privire la faptul dacă un conținut era generat de IA la una în care un astfel de conținut are un simbol sau o suprapunere de verificare.
Chiar și fără a deține o platformă de IA de top, Europa modelează modul în care această tehnologie transformatoare este implementată la nivel global. Legea emblematică a UE privind IA, Legea privind inteligența artificială, a început să oblige cele mai mari platforme din lume să ia decizii cruciale cu privire la toate aspectele, de la siguranță la transparență.
Acest lucru ne reamintește că Bruxelles-ul ajunge adesea să fie un fel de autoritate de reglementare globală de ultimă instanță, gata să intervină și să impună limite industriei Big Tech, care altfel ar putea avansa cu viteză maximă. În trecut, rolul său a fost acela de a proteja confidențialitatea în conformitate cu GDPR și de a supraveghea modul în care platformele gestionau conținutul dăunător, ceea ce a avut un efect de domino la nivel mondial.
Acum, începând cu 2 august, furnizorii celor mai avansate modele generative de IA, precum Anthropic și OpenAI, au fost obligați să se asigure că utilizatorii lor știu că interacționează cu IA și că rezultatul este marcat ca fiind generat de IA.
Obligațiile de transparență prevăzute de lege sunt „principalul subiect de discuție în acest moment”, a declarat Francesca Pole, avocată specializată în date, confidențialitate și securitate cibernetică la DLA Piper.
Vizualizarea invizibilului
Cele mai importante companii au anunțat că vor respecta regulile: nu doar prin semnarea unui set de bune practici al UE pentru conformitate, ci și prin anunțarea unei serii de ajustări tehnice.
OpenAI a promis la sfârșitul lunii iulie că „oamenii ar trebui să aibă un context mai clar cu privire la conținutul pe care îl văd online, inclusiv dacă acesta a fost creat sau editat de IA”.
Compania se bazează pe SynthID, un instrument de marcare cu filigran dezvoltat de DeepMind, divizia Google specializată în IA, pentru a adăuga o suprapunere „invizibilă” imaginilor generate de IA.
La sfârșitul lunii iulie, compania a extins această măsură și la conținutul audio.
Anthropic a urmat acest exemplu luni, anunțând că toate modelele Claude lansate începând cu 2 august vor include „filigrane încorporate în text”.
Filigranul este integrat direct în text, a precizat compania într-o postare pe blog.
„Nu îl veți vedea și nu modifică sensul, calitatea sau lizibilitatea răspunsului lui Claude”, se menționează în postare. „Deoarece filigranul face parte din text, acesta va fi transferat odată cu textul atunci când acesta este copiat și lipit în altă parte.”
Ambele companii au promovat, de asemenea, un standard al industriei, dezvoltat de o organizație numită C2PA (Coaliția pentru Proveniența și Autenticitatea Conținutului), menit să stocheze și să transfere metadate de proveniență.
Inserarea filigranelor în conținut este însă doar primul pas; detectarea acestor filigrane și facerea lor vizibile pentru utilizatorii de internet reprezintă un al doilea pas crucial.
Companii precum Anthropic vor trebui să colaboreze cu platformele pe care circulă conținutul generat de IA pentru a-l „vizualiza”, a declarat Walter Pasquarelli, cercetător în domeniul conținutului sintetic la Universitatea din Cambridge și consilier la OCDE.
Iată cum a descris el modul în care funcționează procesul în practică: „Generezi ceva pe Claude, îl încarci pe o platformă de socializare, ești pe punctul de a publica o postare, iar interfața în care se introduce postarea ar putea avea detectoare capabile să identifice filigranul.”
Consecințele ar putea fi de anvergură. „Există numeroase dovezi, … în ceea ce privește mass-media, că, de îndată ce oamenii află că ceva este generat de IA, gradul lor de implicare scade semnificativ”, a spus el.
Sau, în limbajul digital actual, a adăugat Pasquarelli, măsura UE ar putea reduce conținutul de proastă calitate generat de IA.
Platformele sunt deja pe deplin conștiente de ascensiunea IA, LinkedIn adăugând recent o opțiune pentru utilizatori de a semnala o postare care „pare a fi conținut de proastă calitate generat de IA”.
Acest lucru depășește cu mult obiectivul inițial al Bruxelles-ului de a împiedica conținutul generat de IA să fie înșelător. „Discuția s-a mutat de la conținutul generat de IA care are o intenție înșelătoare la conținutul generat de IA în ansamblu”, a remarcat Pasquarelli.
