Un estudio exhaustivo realizado por Search Atlas ha encontrado que seis plataformas principales de modelos de lenguaje grandes demuestran cero fugas de datos de información sensible de usuarios, abordando preocupaciones generalizadas de privacidad mientras destaca problemas persistentes con la alucinación de IA. La investigación, que evaluó OpenAI, Gemini, Perplexity, Grok, Copilot y Google AI Mode mediante experimentos controlados que simulaban escenarios de exposición de datos en el peor de los casos, proporciona una tranquilidad significativa para empresas e individuos preocupados por la confidencialidad al usar herramientas de IA.
La metodología del estudio involucró introducir hechos únicos y no públicos a cada modelo mediante indicaciones directas y resultados de búsqueda web simulados, luego probar si estos hechos podían recuperarse en interacciones posteriores sin acceso a búsqueda. En todas las plataformas, los investigadores no encontraron evidencia de que los modelos retuvieran o repitieran la información sensible, con cero respuestas correctas producidas después de la exposición inicial. Los detalles completos del estudio están disponibles en https://searchatlas.com.
Un experimento clave reveló diferencias de comportamiento entre plataformas al manejar información desconocida. OpenAI, Perplexity y Grok tendían a responder con incertidumbre, proporcionando frecuentemente respuestas de "No lo sé" cuando faltaba información confiable. En contraste, Gemini, Copilot y Google AI Mode estaban más inclinados a generar respuestas seguras pero incorrectas. Crucialmente, ninguna de estas respuestas incorrectas coincidía con la información privada proporcionada previamente, demostrando que la alucinación—la fabricación de información incorrecta—es distinta de la fuga de datos.
El segundo experimento examinó si la información recuperada mediante búsqueda web en vivo persistiría una vez deshabilitado el acceso a búsqueda. Los investigadores seleccionaron un evento del mundo real ocurrido después de los límites de entrenamiento de todos los modelos para asegurar que las respuestas correctas solo pudieran originarse de la recuperación en vivo. Cuando la búsqueda estaba habilitada, los modelos respondían la mayoría de las preguntas correctamente, pero una vez deshabilitada la búsqueda, esas respuestas correctas desaparecían en gran medida. Esto indica que los modelos no almacenan ni llevan adelante hechos obtenidos durante interacciones previas a través de mecanismos de recuperación.
Para empresas y usuarios conscientes de la privacidad, estos hallazgos sugieren que la información sensible compartida durante una sesión única de IA actúa más como "memoria de trabajo" temporal en lugar de ser absorbida en memoria duradera que podría revelarse a otros usuarios. Esto aborda una preocupación principal en la adopción empresarial de IA—el temor de que estrategias comerciales propietarias o detalles privados puedan filtrarse a otros usuarios a través del sistema de IA.
El estudio enfatiza que, aunque las preocupaciones por fugas de datos parecen infundadas según esta investigación, la alucinación sigue siendo un desafío genuino. Las plataformas que exhiben menor precisión—Gemini, Copilot y Google AI Mode—no lograron esto repitiendo información recibida previamente sino generando respuestas plausibles pero incorrectas. Esta distinción es crucial para la evaluación de riesgos, ya que cambia el enfoque de preocupaciones de privacidad a requisitos de verificación de precisión.
Para desarrolladores y creadores de IA, la investigación subraya la importancia de sistemas basados en recuperación como Generación Aumentada por Recuperación (RAG), que conectan modelos a bases de datos en vivo o sistemas de búsqueda. Estos enfoques siguen siendo el método más confiable para garantizar respuestas precisas para eventos actuales, información propietaria o datos actualizados frecuentemente, ya que los modelos carecen de mecanismos incorporados para retener hechos descubiertos durante interacciones anteriores sin tales sistemas.
Las implicaciones se extienden a investigadores y verificadores de hechos, destacando que los LLM no pueden "aprender" de correcciones proporcionadas en conversaciones previas. Si un modelo contiene errores en sus datos de entrenamiento subyacentes, puede persistir en repetir esos errores a menos que el modelo sea reentrenado o se proporcionen fuentes correctas nuevamente. Esta limitación enfatiza la necesidad de verificación continua del contenido generado por IA, particularmente en contextos donde la precisión es primordial.
Manick Bhan, Fundador de Search Atlas, señaló que gran parte de la preocupación por la adopción empresarial de IA proviene de suposiciones no probadas sobre fugas de datos, y este estudio buscó probar rigurosamente esas suposiciones bajo condiciones controladas. Aunque la IA no está libre de riesgos—siendo la alucinación un problema documentado—el temor específico de que los datos puedan filtrarse a otro usuario no fue respaldado por evidencia en ninguna plataforma evaluada.
Estos hallazgos podrían acelerar la adopción de IA en sectores donde la sensibilidad de datos ha sido una barrera, como servicios de salud, finanzas y legales. Las organizaciones ahora pueden interactuar con herramientas de IA con mayor confianza respecto a la privacidad de datos, aunque deben mantener procesos de verificación robustos para abordar riesgos de alucinación. El estudio proporciona un marco más claro para comprender los riesgos reales versus percibidos de IA, permitiendo una toma de decisiones más informada sobre estrategias de implementación de IA.
