Definición de un “incidente de IA"

Definición de un "incidente de IA"

La industria de los viajes aéreos comerciales debe gran parte de su creciente seguridad al análisis y archivo sistemáticos de accidentes e incidentes pasados dentro de una base de datos compartida. En aviación, un accidente es un caso en el que se produce un daño sustancial o la pérdida de vidas. Los incidentes son casos en los que el riesgo de accidente aumenta sustancialmente. Por ejemplo, cuando un pequeño incendio se extingue rápidamente en una cabina, es un "incidente", pero si el fuego quema a los miembros de la tripulación en el curso de la extinción, es un "accidente". La base de datos de aviación de la FAA indexa datos de registro de vuelo e investigaciones posteriores de expertos en exámenes integrales de factores tecnológicos y humanos. En parte debido a este autoexamen continuo, viajar en avión es una de las formas más seguras de viajar. Décadas de mejoras iterativas en los sistemas de seguridad y la capacitación han reducido las muertes 81 veces desde 1970 cuando se normalizó para millas de pasajeros.

Donde la industria de la aviación tiene definiciones claras, los informáticos y los filósofos han debatido durante mucho tiempo las definiciones fundamentales de la inteligencia artificial. En ausencia de líneas claras que diferencien los algoritmos, la inteligencia y los daños que pueden causar directa o indirectamente, esta base de datos adopta un criterio adaptativo para ingerir "incidentes" donde los informes se aceptan o rechazan sobre la base de un conjunto de reglas cada vez mayor.