In Breve

Cosa ha richiesto il procuratore di San Francisco?
Il procuratore ha richiesto la rimozione di tredici app che generano immagini intime non consensuali tramite intelligenza artificiale.
Quali aziende sono coinvolte nella richiesta?
Le aziende coinvolte sono Apple e Google.
Quali sono le conseguenze per le vittime di queste app?
Le vittime possono subire danni alla propria reputazione e ripercussioni sulla salute mentale.

Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro la proliferazione di applicazioni di face-swapping che utilizzano intelligenza artificiale per generare immagini intime non consensuali. In una lettera inviata ad Apple e Google, Chiu ha richiesto la rimozione immediata di tredici app, di cui otto presenti sull’App Store e cinque sul Play Store.

Chiu ha sottolineato che queste applicazioni non solo violano le policy per sviluppatori di entrambe le piattaforme, che vietano contenuti pornografici e abusivi, ma hanno anche generato profitti significativi per le aziende coinvolte. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari grazie a queste app, nonostante la legge californiana proibisca il supporto a servizi che producono materiale pornografico deepfake.

In passato, l’ufficio del procuratore ha già avviato azioni legali contro sedici siti web dedicati alla creazione di contenuti simili, dimostrando un impegno costante nella lotta contro l’abuso della tecnologia per fini dannosi.

Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzionalità di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini controversi come “nudify” all’interno del Play Store. Tuttavia, Apple non ha rilasciato commenti ufficiali in merito alla questione.

David Chiu ha descritto la situazione come “assolutamente scioccante”, evidenziando le conseguenze devastanti che tali pratiche possono avere sulle vittime, che vanno dalla reputazione danneggiata a gravi ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli interni, ma non ha escluso la possibilità di ulteriori azioni legali se necessario.

Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione per la privacy e il consenso nell’era digitale, dove le tecnologie avanzate possono essere utilizzate per creare contenuti dannosi e ingannevoli. La battaglia contro i deepfake rappresenta una sfida cruciale per le autorità, le aziende tecnologiche e la società nel suo complesso.