Aprite Instagram, chiedete a un chatbot di scrivervi un'email, usate un filtro per migliorare una foto: l'Intelligenza Artificiale è già comodamente seduta nei nostri salotti e nei nostri smartphone. Ma vi siete mai chiesti chi controlla il controllore? Chi verifica che queste tecnologie, prima di finire nelle nostre mani, siano sicure, non discriminatorie e rispettose della nostra privacy? La risposta, fino a poco tempo fa, era: quasi nessuno. Oggi, però, le cose stanno cambiando, e lo scontro si sta consumando ai massimi livelli.
Secondo recenti indiscrezioni, l'amministrazione statunitense sta esercitando forti pressioni su Meta (l'azienda madre di Facebook, Instagram e WhatsApp) affinché accetti di sottoporre i propri modelli AI a una serie di controlli prima del loro rilascio pubblico. L'obiettivo è spingere il colosso di Mark Zuckerberg ad allinearsi a una pratica di revisione volontaria, un percorso che altri grandi sviluppatori del settore hanno già iniziato a intraprendere per placare le ansie dei legislatori.
Ma perché questo braccio di ferro tecnico dovrebbe interessare a noi, che usiamo il telefono per questioni ben più terrene? Il motivo è semplice e cruciale: i modelli di Intelligenza Artificiale non sono solo codici innocui. Sono sistemi addestrati su miliardi di dati (spesso i nostri) che prendono decisioni. Se un modello ha dei pregiudizi, potrebbe filtrare in modo discriminatorio i curriculum in un'app di ricerca lavoro. Se ha falle di sicurezza, potrebbe esporre i nostri dati sensibili. Se è programmato male, potrebbe generare disinformazione tossica sulle piattaforme che frequentiamo ogni giorno.
Il concetto di revisione volontaria è un compromesso. I governi non hanno ancora leggi stringenti per bloccare le Big Tech, e quindi chiedono loro, per favore, di fare i compiti a casa e farsi controllare da esperti indipendenti. È un po' come chiedere a uno studente di darsi il voto da solo, sperando che sia onesto. Tuttavia, testare la sicurezza di questi sistemi prima che vengano integrati nelle app di tutti i giorni è un passaggio fondamentale per evitare danni su larga scala, dalla manipolazione politica all'impatto sulla salute mentale dei più giovani.
Noi di NotizieGaie crediamo che la tecnologia debba essere uno strumento di emancipazione, non una scatola nera che ci profila e ci giudica. Sapere che ci sono pressioni istituzionali per aprire queste "scatole nere" è un segnale positivo. Significa che il Far West tecnologico sta per finire e che, forse, inizieremo a mettere al centro l'umano, e non solo la macchina.
Nel frattempo, la prossima volta che un'app vi suggerirà magicamente cosa comprare o a chi scrivere, ricordatevi che dietro quella magia c'è un modello matematico potentissimo. E speriamo vivamente che qualcuno, da qualche parte, lo abbia testato prima di lasciarlo libero di curiosare nelle nostre vite.