Il sindaco di New York invita a superare il pessimismo sull’intelligenza artificiale

Il sindaco di New York, Zohran Mamdani, ha recentemente esortato i residenti a respingere il clima di pessimismo che circonda l’intelligenza artificiale (IA). Durante il suo intervento all’assemblea “The People’s AI Assembly”, organizzata dall’AI Now Institute a Manhattan, Mamdani ha affermato che “Nothing has to be”, invitando a non considerare l’adozione tecnologica come inevitabile.

Mamdani ha denunciato quella che ha definito una “adozione spericolata della tecnologia”, avvertendo che alcuni attori cercano di sovraccaricare l’opinione pubblica fino a farle credere che non ci siano alternative. A livello locale, ha introdotto provvedimenti che vietano l’uso dell’IA in alcune scuole primarie e medie e ha proibito l’impiego dell’IA per generare immagini negli annunci immobiliari, evidenziando la scuola come un ambito particolarmente sensibile all’ingresso della tecnologia.

Nel corso del suo intervento, il sindaco ha citato un tragico evento in cui uno strumento di targeting basato sull’IA è stato utilizzato dalle forze armate statunitensi in un attacco a una scuola in Iran, che ha causato la morte di oltre 150 persone, tra cui almeno 123 bambini. Un’inchiesta del Pentagono ha identificato un eccessivo affidamento sugli strumenti automatizzati come fattore contributivo a questa tragedia.

A livello nazionale, Mamdani ha denunciato la mancanza di regolamentazione federale sull’IA, definendola una “completa abdicazione del diritto federale”. Ha criticato anche il discorso che considera l’IA come infallibile o non interrogabile, sostenendo che questa impostazione favorisca l’elusione di responsabilità, specialmente mentre società come Anthropic e OpenAI si preparano a entrare in borsa.

Inoltre, Mamdani ha richiamato l’attenzione su episodi in cui agenti di IA hanno “fatto irruzione” al di fuori degli ambienti di test. Questi eventi, descritti da alcuni come comportamenti “rogue”, sono stati oggetto di dibattito; le inchieste hanno dimostrato che gli agenti si comportavano come progettati. Le critiche all’uso del termine “rogue” suggeriscono che possa offuscare il dibattito pubblico e distrarre dall’imposizione di responsabilità legali per implementazioni software difettose.

Concludendo il suo intervento, Mamdani ha chiesto un quadro di responsabilità diverso e più stringente per l’IA, auspicando un cambiamento significativo nella fase successiva all’attuale amministrazione federale.