¿Autos Epilépticos? Cómo las Luces de Emergencia Confunden a los Sistemas de Conducción Automatizados

Las luces de emergencia pueden interrumpir los sistemas de conducción automatizados, causando fallos en la detección. Los investigadores desarrollaron “Caracetamol” para solucionar este problema, destacando preocupaciones más amplias sobre la seguridad de la IA.

Nueva investigación sugiere que los sistemas de conducción automatizados basados en cámaras, diseñados para hacer la conducción más segura, podrían fallar en reconocer objetos en la carretera cuando se exponen a luces de emergencia intermitentes, lo que supone riesgos significativos, según lo informado primero por WIRED.

Investigadores de la Universidad Ben-Gurion del Néguev y Fujitsu Limited descubrieron un fenómeno llamado “crisis epiléptica digital” o “epilepticar”.

Según informa WIRED, este problema hace que los sistemas fallen al identificar objetos al ritmo de los destellos de las luces de los vehículos de emergencia, especialmente en la oscuridad. Este defecto podría llevar a los vehículos que utilizan estos sistemas a identificar erróneamente o no detectar coches u otros obstáculos, aumentando la probabilidad de accidentes cerca de las escenas de emergencia.

El estudio fue inspirado por informes de colisiones de vehículos Tesla con Autopilot contra vehículos de emergencia estacionarios entre 2018 y 2021.

Aunque la investigación no vincula específicamente el problema con el sistema de Tesla, los hallazgos destacan posibles vulnerabilidades en la tecnología de detección de objetos basada en cámaras, un componente clave de muchos sistemas de conducción automatizados, señala WIRED.

Los experimentos utilizaron cinco dashcams comerciales con características de conducción automatizadas y procesaron sus imágenes a través de detectores de objetos de código abierto.

Las investigadoras señalan que estos sistemas pueden no reflejar los utilizados por los fabricantes de automóviles y reconocen que muchos vehículos emplean sensores adicionales como radar y lidar para mejorar la detección de obstáculos, según informa WIRED.

La Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. (NHTSA) también ha reconocido los desafíos con los sistemas avanzados de asistencia al conductor (ADAS) para responder a las luces de emergencia, dice WIRED.

Sin embargo, WIRED informa que los investigadores enfatizan que no establecen una conexión directa entre sus hallazgos y accidentes pasados de Tesla. Para abordar el problema, el equipo desarrolló una solución de software llamada “Caracetamol”, que mejora la capacidad de los detectores de objetos para identificar vehículos con luces intermitentes.

Mientras que expertos como Earlence Fernandes de la UC San Diego ven la solución como prometedora, Bryan Reimer del AgeLab del MIT advierte sobre preocupaciones más amplias.

Hace hincapié en la necesidad de pruebas robustas para abordar los puntos ciegos en los sistemas de conducción basados en IA, advirtiendo que algunos fabricantes de automóviles pueden estar avanzando en tecnología más rápido de lo que pueden validarla, según lo informado por WIRED.

El estudio subraya las complejidades de garantizar la seguridad en la conducción automatizada y pide más investigaciones para mitigar dichos riesgos.