Vittima di stalking fa causa a OpenAI, sostenendo che ChatGPT ha alimentato le delusioni dell'aggressore
Una nuova causa sostiene che OpenAI ha ignorato numerosi avvertimenti su un pericoloso utente ChatGPT che ha perseguitato e molestato la sua ex ragazza, nonostante la sua stessa segnalazione di vittime di massa.
In un caso preoccupante che evidenzia i potenziali pericoli dei modelli linguistici dell'intelligenza artificiale, una vittima di stalking ha intentato una causa contro OpenAI, la società dietro il popolare chatbot ChatGPT. La causa sostiene che OpenAI ha ignorato numerosi avvisi su un utente ChatGPT che perseguitava e molestava la sua ex ragazza, anche dopo che il suo stesso sistema aveva segnalato l'utente come un potenziale rischio di vittime di massa.
La vittima, che non è stata nominata pubblicamente, afferma che il suo ex partner ha utilizzato ChatGPT per alimentare le sue convinzioni deliranti e amplificare il suo comportamento violento. Secondo l'accusa, la vittima ha contattato OpenAI in tre diverse occasioni, avvertendola della condotta minacciosa e pericolosa dell'utente. Tuttavia, la società presumibilmente non ha intrapreso alcuna azione significativa per affrontare la situazione.
La causa sostiene che la negligenza di OpenAI nel rispondere agli avvertimenti della vittima ha contribuito direttamente all'escalation di stalking e molestie, che hanno avuto un impatto devastante sulla salute mentale e sulla sicurezza personale della vittima. La vittima chiede danni finanziari significativi all'azienda, nonché modifiche alle sue politiche e procedure per proteggere meglio gli utenti da tali abusi.
{{IMAGE_PLACEHOLDER}}Questo caso evidenzia le crescenti preoccupazioni riguardo al potenziale uso improprio delle tecnologie di intelligenza artificiale, in particolare nel contesto della violenza domestica e dello stalking. Man mano che modelli linguistici come ChatGPT diventano più avanzati e ampiamente utilizzati, crescono le preoccupazioni su come potrebbero essere sfruttati dagli autori di abusi per manipolare, minacciare e terrorizzare le loro vittime.
La causa solleva anche interrogativi sulla responsabilità delle società di intelligenza artificiale di monitorare e rispondere a comportamenti degli utenti potenzialmente dannosi, anche quando si verificano al di fuori delle loro piattaforme. Molti esperti sostengono che queste aziende hanno l'obbligo morale ed etico di dare priorità alla sicurezza degli utenti e di adottare misure proattive per mitigare i rischi associati alle loro tecnologie.
{{IMAGE_PLACEHOLDER}}L'avanzamento del caso avrà probabilmente implicazioni di vasta portata per il settore dell'intelligenza artificiale e per il modo in cui affronta la privacy, la sicurezza e la responsabilità degli utenti. Il risultato potrebbe costituire un precedente per il modo in cui aziende come OpenAI sono ritenute responsabili delle conseguenze indesiderate delle loro tecnologie, in particolare quando si tratta di proteggere le persone vulnerabili dai danni.
Fonte: TechCrunch
