Description: The "Dan" ("Do Anything Now") AI boyfriend is a trend on TikTok in which users appear to regularly manipulate ChatGPT to adopt boyfriend personas, breaching content policies. ChatGPT 3.5 is reported to regularly produce explicitly sexual content, directly violating its intended safety protocols. GPT-4 and Perplexity AI were subjected to similar manipulations, and although they exhibited more resistance to breaches, some prompts were reported to break its guidelines.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado por OpenAI y Perplexity.ai e implementado por TikTok users , Julia Munslow , ChatGPT , GPT-3.5 , GPT-4 y Perplexity AI, perjudicó a Perplexity AI , OpenAI y General public.
Estadísticas de incidentes
ID
677
Cantidad de informes
1
Fecha del Incidente
2024-04-29
Editores
Informes del Incidente
Cronología de Informes
wsj.com · 2024
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
translated-es-I was scrolling TikTok when I saw a video of a woman talking on the phone to her boyfriend, Dan. "Hey sweetheart, I'm sorry to hear you're feeling down," he said.
A few swipes later, I saw another woman talking to *her *boyfri…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents