In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Il procuratore David Chiu ha chiesto la rimozione di tredici app di face-swapping che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Le aziende coinvolte sono Apple e Google.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro le applicazioni che utilizzano la tecnologia di intelligenza artificiale per generare immagini intime non consensuali. In una recente comunicazione, Chiu ha inviato diffide ad Apple e Google, richiedendo la rimozione immediata di tredici applicazioni di face-swapping, otto delle quali sono disponibili sull’App Store di Apple e cinque sul Google Play Store.
Chiu ha evidenziato che queste applicazioni non solo violano le politiche delle piattaforme, che vietano contenuti pornografici e abusivi, ma hanno anche generato profitti significativi per le aziende coinvolte. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari grazie a queste app, nonostante le chiare disposizioni legali che proibiscono il supporto a servizi che producono materiale pornografico deepfake.
La legge della California è particolarmente severa in materia, e l’ufficio del procuratore ha già avviato azioni legali contro sedici siti web che operano in modo simile. Chiu ha sottolineato che la situazione attuale è “assolutamente scioccante”, sia per l’ampiezza del fenomeno sia per le gravi conseguenze che queste pratiche hanno sulle vittime. Le ripercussioni possono variare dalla reputazione danneggiata a problemi di salute mentale.
In risposta alle preoccupazioni sollevate, Dan Jackson, portavoce di Google, ha dichiarato che l’azienda ha già rimosso centinaia di applicazioni con funzioni di “nudificazione”, comprese quelle segnalate dal procuratore. Inoltre, Google ha limitato la ricerca di termini come “nudify” sul Play Store per prevenire ulteriori abusi.
Al momento, Apple non ha rilasciato commenti ufficiali sulla questione. Tuttavia, Chiu si è detto fiducioso che entrambe le aziende agiranno prontamente per rimuovere le applicazioni incriminate e rafforzare i controlli per evitare che simili situazioni si ripetano in futuro. Non esclude, inoltre, la possibilità di ulteriori azioni legali se le aziende non dovessero rispondere adeguatamente alle sue richieste.
Questa iniziativa di San Francisco rappresenta un passo importante nella lotta contro l’abuso della tecnologia di intelligenza artificiale e la protezione della dignità e dei diritti delle persone. Con l’aumento delle applicazioni che sfruttano il deepfake, la questione della regolamentazione e della responsabilità delle piattaforme diventa sempre più cruciale.
