Journal des citations pour l'incident 250

Description: A home value generated by a black-box algorithm was reportedly defended by the Castricum court, which was criticized by a legal specialist for setting a dangerous precedent for accepting black-box algorithms as long as their results appear reasonable.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Castricum municipality, endommagé unnamed property owner.

Statistiques d'incidents

ID
250
Nombre de rapports
1
Date de l'incident
2016-02-01
Editeurs
Khoa Lam
Applied Taxonomies
CSETv1, CSETv1_Annotator-3, CSETv1_Annotator-1

Classifications de taxonomie CSETv1_Annotator-1

Détails de la taxonomie

Incident Number

250

Classifications de taxonomie CSETv1_Annotator-3

Détails de la taxonomie

Incident Number

250

AI Tangible Harm Level Notes

It is unclear if the property value estimate provided by the algorithm is exaggerated or accurate. If it is exaggerated, there would be a tangible harm event. If not, there is no tangible harm.

Notes (special interest intangible harm)

The harm of this incident is the acceptance of a property value estimate by the Court, despite the process of estimation violating the right to an explanation of automated decisions under the GDPR.

Special Interest Intangible Harm

yes

Une ville néerlandaise utilise un algorithme pour évaluer la valeur de la maison, mais n'a aucune idée de son fonctionnement
algorithmwatch.org · 2020
Traduit par IA

Dans une affaire apparemment banale à la cour d'appel d'Amsterdam, un juge a statué qu'il était acceptable pour une municipalité d'utiliser un algorithme de boîte noire, tant que les résultats n'étaient pas surprenants.

En 2016, la municipa…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incident précédentProchain incident