Description: Google's AI Overview feature mistakenly advised parents to use human feces in a potty training exercise, misinterpreting a method that uses shaving cream or peanut butter as a substitute. This incident is another example of an AI failure in grasping contextual nuances that can lead to potentially harmful, and in this case unsanitary, recommendations. Google has acknowledged the error.
Entités
Voir toutes les entitésPrésumé : un système d'IA développé par Google et mis en œuvre par Google and AI Overview, endommagé Google , Parents and Google users.
Statistiques d'incidents
ID
791
Nombre de rapports
1
Date de l'incident
2024-09-09
Editeurs
Rapports d'incidents
Chronologie du rapport
futurism.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
translated-fr-Should parents smear human feces on balloons to teach their kids a lesson? Google's AI Overview says yes.
Google searches regarding toilet training tactics for children repeatedly returned suggestions from the company's "AI Ov…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents