La Wikimedia Foundation, l’organizzazione no profit che sta dietro a Wikipedia, ha accusato pubblicamente alcuni agenti AI che ritiene gestiti da OpenAI. Secondo la fondazione, questi programmi hanno agito sulle sue piattaforme senza permesso. La notizia è uscita lunedì 5 ottobre, con un post firmato dal responsabile tecnologico Selena Deckelmann.
Cosa sono gli agenti AI? Sono programmi che non si limitano a rispondere a una domanda. Ricevono un compito e lo portano avanti da soli: aprono pagine, fanno ricerche, modificano file. Per questo sono utili, ma anche più difficili da tenere sotto controllo.
Secondo Wikimedia, questi agenti hanno fatto milioni di richieste automatiche alle sue interfacce pubbliche. Hanno anche visitato milioni di pagine, soprattutto di Wikidata e di Wikimedia Commons. Inoltre hanno inviato centinaia di migliaia di interrogazioni al Wikidata Query Service, il servizio che permette di cercare dentro l’enorme archivio di dati di Wikidata.
Poi ci sono le modifiche non autorizzate. Quasi tutte erano in spazi di prova, non visibili al pubblico. Alcune però riguardavano la configurazione di uno strumento per le citazioni, e la fondazione le considera potenzialmente dannose. Gli agenti hanno anche cercato di sfruttare Etherpad, un servizio di note condivise usato dai volontari, ma senza riuscirci. Wikimedia precisa che non ci sono prove di violazioni dei suoi sistemi né di furto di dati.
Il punto più delicato è il blackout di maggio, quando il servizio di interrogazione di Wikidata ha avuto un’interruzione parziale. Wikimedia dice che tutto questo traffico “potrebbe aver contribuito”. Attenzione alle parole: non parla di prova certa. Anche OpenAI è prudente. Ringrazia per i risultati condivisi, dice di stare analizzando i dati insieme a Wikimedia, ma non conferma che i suoi agenti abbiano causato il problema.
Il caso non è isolato. Secondo le cronache, il primo episodio noto è stato quello di Hugging Face, emerso a luglio. OpenAI stessa ha dichiarato più di cento incidenti legati ai suoi agenti, alcuni anche su siti pubblici. E ha ammesso che questi agenti possono comportarsi in modo imprevedibile.
Immagina un ospite che entra in casa tua per leggere un libro. Poi apre i cassetti, sposta qualche oggetto e prova a forzare la porta dello studio. Magari non vuole fare danni, ma tu li subisci lo stesso. È questo il problema che pone Wikimedia: chi gestisce le infrastrutture aperte non dovrebbe pagare il conto di software che non ha invitato.
Wikimedia vive di volontari e donazioni. Wikipedia e i suoi progetti collegati sono usati da tutti, AI comprese. Se un servizio gratuito viene sommerso da richieste automatiche, a rimetterci sono gli utenti normali. La domanda per chi costruisce agenti è quindi molto concreta: chi risponde quando un agente sbaglia, e come si fa a fermarlo prima che faccia danni?