¿Cómo saber si los carros autónomos son seguros?

Listos o no, los robots están por llegar. Habrá autos conduciendo por su cuenta, sin ningún volante que podamos agarrar. Los drones para entrega maniobrarán alrededor de los muebles del patio y los jardines de vegetales para entregar paquetes en los patios traseros. Los carritos de entrega en las aceras pasarán zumbando, trayendo cajas de pizza a las puertas de las casas.

Estos sistemas operarán sin la necesidad de que un ser humano los vigile directamente. Esto plantea una gran pregunta con la cual todas las personas desde los reguladores del gobierno a las compañías de tecnología y los defensores de la seguridad están lidiando. Si los robots nos están conduciendo de un lado a otro, entregando nuestra comida, cuidando de los ancianos, sustituyendo a los médicos en los quirófanos y luchando en las guerras, ¿podemos confiar en que se comporten de forma segura?

“Esta es la pregunta más esencial de todo el asunto”, dijo Andrew Platzer, quien investiga la seguridad robótica, de los automóviles y de los aviones en la Universidad Carnegie Mellon. “Es una pregunta muy difícil, ¿cómo puedes saber con seguridad que el sistema en sí sea realmente seguro?”.

La creciente presencia de la robótica está ocurriendo en una amplia gama de campos, así que estas innovaciones en gran parte están cayendo dentro de un agujero negro reglamentario, desafiando la forma en como nuestra sociedad está configurada para evaluar la seguridad.

Por ejemplo, ¿los autos sin conductor deberían ser regulados por el Departamento de Vehículos Motorizados de los estados o por el Departamento de Transporte de Estados Unido? -- los cuales carecen de un profundo conocimiento de robótica. ¿Qué hay de los robots militares – deberían las Naciones Unidas desarrollar reglas o cada gobierno debe seguir su propio camino? Algunas personas están solicitando la creación de una nueva agencia de gobierno en los Estados Unidos, como una NASA para los robots, porque las agencias tradicionales carecen de la experiencia en este campo.

“El gobierno no está actuando como una fuente de conocimientos aquí”, dijo Ryan Calo, un profesor de derecho de la Universidad de Washington y experto en política tecnológica. “Me preocupa bastante que el gobierno confíe demasiado en los expertos de la industria porque no cuentan con su propio conocimiento interno”.

Algunos estados ya han comenzado a probar los vehículos autónomos en sus carreteras. Ven los beneficios de seguridad potenciales que estos vehículos pueden traer y quiere atraer empresas y puestos de trabajo. Pero mientras los funcionarios en estos lugares destacan a la seguridad como una prioridad, ninguno ha explicado en detalle cómo determinar que un robot es lo suficientemente seguro.

California está por delante de la mayoría de los estados en cuanto al abordar estas cuestiones. La semana pasada el Departamento de Vehículos Motorizados (DMV, por sus siglas en inglés) publicó un proyecto de directrices para los autos autónomos pero se abstuvo de afrontar completamente a los vehículos autónomos, los cuales no requieren de un conductor, volante o pedales. El DMV dice que abordará a los autos sin conductor más adelante. Las reglas incompletas llegaron más de 11 meses después de la fecha límite del departamento.

El DMV se enfrenta a una tarea extremadamente difícil. No tiene antecedentes de lidiar con los complejos algoritmos que rigen a los vehículos autónomos. Su experiencia ha sido con los conductores humanos, no los robots.

El ritmo cauteloso del DMV ha atraído algunas críticas. Google dijo el miércoles que estaba “profundamente decepcionado”, y que el objetivo de su programa es mejorar la seguridad en las carreteras. Los automóviles de Google están programados para adoptar un enfoque conservador si observan un objeto o situación que no puedan categorizar. Si algo fuera de lo normal está ocurriendo adelante, el auto es probable que se detenga. El vice gobernador de California, Gavin Newsom, la semana pasada advirtió que las reglas podrían ser demasiado engorrosas y podrían bloquear la innovación.

John Simpson, director del proyecto de privacidad de la organización Consumer Watchdog, cree que el DMV ha actuado admirablemente, dadas las preocupaciones de seguridad sobre los sistemas de robótica.

Mientras tanto, el Departamento de Transporte de Estados Unidos, el cual se negó a comentar sobre las reglas de California, ha centrado la mayor parte de sus esfuerzos en un segmento estrecho de la seguridad robótica. Está abordando las señales de comunicación entre los vehículos autónomos, pero no la cuestión más amplia de determinar si estos autos robot serán seguros.

Calo, el profesor de la Universidad de Washington, se imagina un grupo gubernamental que se especializa en robótica y asesora a las agencias de todo el país que están lidiando con temas relacionados. Lo describe como una “NASA para todo”, dada la trayectoria de la agencia espacial de atraer mentes excepcionalmente brillantes.

Mike Wagner, un investigador de robótica de Carnegie Mellon, analiza el software detrás de los vehículos autónomos. Aunque es un creyente de las mejoras generales que traerá la tecnología autónoma, advirtió que tales sistemas serán imperfectos, como los seres humanos que los construyen.

Si desea leer esta nota en inglés, haga clic aquí