LES MARQUES D'AIGUA

Últimament està donant molt de parlar i, per diferents motius la IA ChatGPT. No ja per la seva prohibició a les escoles de Nova York, sinó també perquè, almenys en un cas a Salt demostra que els docents han perdut la carrera de la IA. La directora d'un institut de Salt, no sabia res del ChatGPT, s'ha quedat la bona senyora a "el rincón del vago."

De la mateixa manera que es diu que feta la llei feta la trampa, podrìam dir que, un cop feta la trampa, li segueix, la identificació del parany a través de les marques d'aigua.

Els creadors de ChatGPT estan treballant en una mena d'identificador que permetrà a docents detectar si un text va ser creat mitjançant Intel·ligència Artificial. Són només les albors dels generadors d'intel·ligència artificial i ja han provocat un tomb en la manera de treballar de la gent. A més de la gratificació instantània que suposen eines de creació artística com DALL-E i Lensa, aquesta tecnologia ha donat lloc a una revolucionària manera de fer trampes per als estudiants.

Gairebé tan aviat com ChatGPT, un nou programa de generació de text, es va fer de codi obert, els acadèmics han informat d'incidents en què se sospitava que els estudiants feien servir ChatGPT i feien passar per les seves redaccions escrites per la IA. ChatGPT, que es va fer públic al desembre, pot processar preguntes i peticions textuals i produir en qüestió de segons feines totalment «originals» i coherents, fins i tot en espanyol. Els qui no estiguin familiaritzats amb aquest tipus d'eines poden no notar-ne la diferència i suposar que un autor humà ha compost ell mateix els resultats.

És cert que el programa no és perfecte i, de vegades, pot malinterpretar el text. A un estudiant que va ser sorprès plagiant amb ChatGPT, per exemple, se li havia encarregat que escrivís sobre una teoria filosòfica. En lloc d'això, el seu treball es va centrar en el filòsof on s'inspirava aquest concepte. ChatGPT tampoc no és bo citant, un defecte comprensible, ja que, igual que el programari de DALL-E i Midjourney, els textos de ChatGPT són productes acumulatius de milions de treballs realitzats per humans, cosa que dificulta la detecció d'una font real.

Els creadors de ChatGPT treballen ara en una forma de marcar els textos amb marques d'aigua per evitar l'AIgiarism en al·lusió a les sigles Artificial Intelligence (PlagI.A.do podria ser la seva adaptació a l'espanyol), terme encunyat pel capitalista de risc nord-americà Paul Graham, la dona del qual Jessica Livingston és una de les patrocinadores d'OpenAI, creador de ChatGPT.

Durant una conferència a la Universitat de Texas, Scott Aaronson, investigador convidat d'OpenAI, va dir que l'organització està impulsant salvaguardes per fer "marques d'aigua estadístiques" als textos generats per ChatGPT. Ha publicat la transcripció completa de la conferència al bloc.

Les marques d'aigua de ChatGPT estaran formades per senyals criptogràfics que l'ull no observador llegirà com a text natural. En realitat, el llenguatge està distribuït d'una manera específica que respon a un codi desxifrable per qualsevol que tingui la clau per desxifrar-lo. L'elecció de les paraules és «estadísticament predictible» i forma part d'una seqüència dels trossos de text anteriors. Tot i això, serà indetectable per al lector ocasional perquè semblarà tan aleatòria com totes les altres parts del text. La marca d'aigua sembla completament natural per als qui llegeixen el text perquè l'elecció de les paraules imita l'aleatorietat de totes les altres paraules.

El sistema d'empremtes dactilars de ChatGPT, actualment un «prototip de treball», serà identificable per una màquina en generar «uns centenars [de paraules]» per donar als investigadors «un senyal raonable que, sí, aquest text procedeix de GPT », explica Aaronson.

La tecnologia no només serà útil per als detectors de plagi acadèmic com Turnitin, sinó que també ajudarà a descartar la desinformació per part de persones malintencionades. 

«Volem que sigui molt més difícil agafar un resultat de GPT i fer-ho passar per humà», diu Aaronson. «Això podria ser útil per evitar el plagi acadèmic, òbviament, però també, per exemple, la generació massiva de propaganda: ja saps, enviar correu brossa a tots els blocs amb comentaris aparentment relacionats amb el tema per recolzar la invasió russa d'Ucraïna sense ni tan sols tenir un edifici ple de trolls a Moscou. O suplantar l'estil d'escriptura d'algú per incriminar-lo». Dos aspectes que - no ens enganyem - acabaran passant permés marqques d'aigua que implantin.