A medida que la inteligencia artificial pasa de las interfaces digitales al mundo físico, lo que está en juego aumenta significativamente. Una nueva encuesta publicada en la revista Machine Intelligence Research examina los riesgos de seguridad y éticos cuando los modelos de lenguaje y visión (VLMs) y los modelos de lenguaje-visión-acción (VLAs) guían sistemas corpóreos como vehículos autónomos, drones, robots de servicio y máquinas industriales. Estos sistemas pueden percibir, razonar y actuar, pero también introducen vulnerabilidades donde los errores pueden traducirse en daños físicos.
La revisión, realizada por investigadores del Instituto de Automática de la Academia China de Ciencias; University College London; Universidad Minzu de China; y la Academia China de Electrónica y Tecnología de la Información, mapea los puntos de falla en la percepción, la planificación, el seguimiento de instrucciones y la interacción humano-robot. Identifica riesgos como alucinaciones, falsificaciones sintéticas, ataques adversarios, fuga de privacidad y ejecución insegura. Por ejemplo, un modelo podría describir objetos que no existen debido a datos de entrenamiento sesgados o una débil alineación entre modalidades, lo que lleva a un robot a tomar decisiones equivocadas. Entradas maliciosamente diseñadas, como señales de tráfico falsificadas o voces clonadas, pueden manipular la percepción y la planificación, mientras que pequeñas perturbaciones adversarias o puertas traseras ocultas pueden eludir los controles de seguridad.
Los autores enfatizan que estos riesgos no están aislados. En un chatbot, los errores pueden resultar en desinformación; en un vehículo autónomo o robot industrial, pueden provocar colisiones, daños en el equipo o misiones fallidas. Las salvaguardas existentes suelen ser específicas de un punto de referencia, fragmentadas o demasiado pesadas computacionalmente para uso en tiempo real. La encuesta pide defensas unificadas y adaptativas que cubran todo el pipeline desde la entrada del sensor hasta la acción física.
Para contrarrestar estas amenazas, los investigadores organizan las estrategias defensivas en capas conectadas. Estas incluyen filtrado de alucinaciones y alineación basada en la visión para mejorar la precisión de la percepción; detección de falsificaciones entre modalidades, marcas de agua y rastreo de procedencia para verificar la autenticidad; defensas contra perturbaciones adversarias, puertas traseras y jailbreaks; técnicas de preservación de la privacidad como privacidad diferencial, computación multiparte segura y cifrado homomórfico; y salvaguardas para navegación, comunicaciones y control físico. Además, proponen usar explicaciones causales, alineación de intenciones y evaluación de riesgos para ayudar a los robots a interpretar instrucciones ambiguas, anticipar peligros y corregir acciones.
La idea central es que ningún filtro único puede asegurar un agente corpóreo. La protección debe seguir todo el camino desde la entrada del sensor hasta el razonamiento del modelo, la arquitectura del sistema y la ejecución física. Los autores argumentan que el desafío no es solo hacer que los modelos sean más precisos, sino garantizar que los sistemas sigan siendo seguros cuando los sensores, las entradas de lenguaje y las condiciones operativas son imperfectas. Abogan por combinar defensas en lugar de implementar parches aislados, con métricas de riesgo transparentes, monitoreo continuo y supervisión humana para decisiones críticas.
Para desarrolladores y reguladores, la encuesta proporciona una lista de verificación práctica para evaluar sistemas corpóreos antes de su implementación a gran escala. Las plataformas futuras podrían integrar razonamiento interpretable, detección de ataques, computación que preserva la privacidad y controles de seguridad dinámicos bajo protocolos de evaluación abiertos y reproducibles. Los autores piden diseños que aborden cuatro dimensiones juntas: robustez técnica, alineación regulatoria, equidad social y sostenibilidad ambiental.
Tal enfoque podría respaldar un transporte autónomo más seguro, asistencia sanitaria, automatización de almacenes, inspección industrial y robótica colaborativa, al tiempo que facilita el rastreo de responsabilidades cuando ocurren fallas. Sin embargo, la revisión advierte que los sólidos resultados de laboratorio pueden no transferirse limpiamente a entornos ruidosos, culturalmente diversos y con recursos limitados. El progreso depende de la cooperación interdisciplinaria y de pruebas que midan no solo el éxito de la tarea sino también el comportamiento seguro bajo estrés.
El estudio se publica con el DOI 10.1007/s11633-025-1626-x y aparece en un número especial sobre seguridad y ética de la IA generativa. La investigación fue parcialmente financiada por la Fundación Nacional de Ciencias Naturales de China, el Programa de Investigación de Prioridades Estratégicas de la Academia China de Ciencias y el Consejo de Investigación de Ingeniería y Ciencias Físicas (EPSRC) del Reino Unido.
