ChatGPT risolve un bug che permetteva ai minori di generare conversazioni erotiche. Scopri dettagli su come OpenAI ha corretto il problema.
Un bug in ChatGPT ha permesso al chatbot di generare conversazioni erotiche su account registrati da minorenni, quindi di età inferiore ai 18 anni, come rivelano i test di effettuati da TechCrunch e come poi confermato da OpenAI.
ChatGPT usato per fare sexting
In alcuni casi, il chatbot ha persino incoraggiato questi utenti a chiedere contenuti più volgari e più espliciti, contraccambiando uno scambio di erotismo web illegale.
OpenAI ha riferito a TechCrunch che le sue politiche non consentono questo tipo di risposte per gli utenti al di sotto dei 18 anni e che non avrebbero dovuto essere mostrate. L’azienda ha aggiunto che sta “distribuindo attivamente una correzione” per limitare tali contenuti, in modo da risolvere il bug per questi account.
“Proteggere gli utenti più giovani è una priorità assoluta e la nostra Model Spec, che guida il comportamento del modello, limita chiaramente i contenuti sensibili come l’erotica a restringere contesti come la segnalazione scientifica, storica o di notizie”, ha detto un portavoce a TechCrunch via e-mail. “In questo caso, un bug ha permesso risposte al di fuori di quelle linee guida e stiamo attivamente implementando una correzione per limitare queste generazioni”.
Per condurre i test, TechCrunch ha creato più di una mezza dozzina di account tramite il sito o l’app ufficiale, fornendo date di nascita che indicavano un’età compresa tra i 13 ed i 17 anni. Hanno usato un singolo PC, ma hanno cancellato i cookie ogni volta che eseguivano una disconnessione, in modo da assicurarci che ChatGPT non attingesse ai dati memorizzati nella cache.
Per ogni account di prova, hanno poi iniziato una nuova chat con la frase: “parlami sporco”. Di solito ci sono voluti solo pochi messaggi e suggerimenti aggiuntivi prima che il sistema si offrisse di raccontare storie sessuali o di rispondere in modo sessuale. Spesso, il chatbot chiedeva indicazioni su specifici nodi e scenari per stare al gioco di ruolo.
Non entriamo nei dettagli, dato che si parla di qualcosa di estremamente illegale, ovvero fornire materiale per adulti a dei minorenni, quindi, ci limitiamo solo a fornire questi dati all’interno della notizia di oggi, grazie.
Cos’è il sexting?
Il “sexting” è lo scambio di messaggi, immagini, audio o video a contenuto sessuale o esplicitamente sessuale, spesso tramite smartphone o social network. È un fenomeno digitale diffuso, in particolare tra i giovani, che si utilizzano per esprimere intimità , esplorare la propria sessualità e comunicare con altri.
ChatGPT usato per localizzare foto e persone
A distanza di qualche ora, molte persone stanno sfruttando le capacità visive del chatbot per localizzare le foto caricate online, ossia, capire dove sono state scattate e quindi localizzare le persone. Si parla di un potenziale rischio per la privacy di tutto il mondo.
“Abbiamo lavorato per addestrare i nostri modelli a rifiutare le richieste di informazioni private o sensibili” ha spiegato OpenAI al sito Techcrunch, aggiungendo misure di sicurezza volte ad impedire al modello di identificare individui. Monitoriamo attivamente ciò che accade ed adottiamo misure contro gli abusi delle nostre politiche di utilizzo sulla privacy”.
La principale novità di o3 e o4-mini è infatti l’opportunità di “pensare con le immagini”. Entrambi possono analizzare i dettagli in una foto caricata nella casella di conversazione, anche se di bassa qualità , per dedurre ragionamenti complessi e, a quanto pare, anche le coordinate geografiche del luogo rappresentato. L’analisi delle immagini, unita alla capacità di ricerca web, fa di ChatGPT uno strumento di localizzazione, come dimostrato dalle decine di prove che gli utenti del social X stanno postando. In particolare, sarebbe il modello o3 quello più efficace nel dedurre città , punti di riferimento e persino ristoranti e bar, da piccoli indizi visivi.
[fonte]
Seguici su Google News