¿Están seguros tus datos cuando usas un asistente virtual?

Los asistentes virtuales con inteligencia artificial pueden convertirse en una puerta de entrada para poner en riesgo la seguridad de una empresa si sus accesos y funciones no están bien protegidos. Una falla podría exponer información tuya o de tu familia. [S6]

Si tu banco o la escuela de tu hijo utilizan uno, ¿qué puede consultar y qué ocurre con lo que escribes? La seguridad depende de los accesos del asistente y de los controles de la institución. Su apariencia o sus respuestas no permiten comprobar por sí solas que tus datos están protegidos.

¿Dónde está el riesgo?

Un asistente virtual es un programa con el que puedes conversar para pedir información o realizar una gestión. Algunos dan respuestas preparadas y otros utilizan IA. Dentro de este último grupo, hay servicios que solo muestran información pública y otros conectados a archivos o cuentas de usuarios.

Esa diferencia es importante. Un asistente que informa el horario de una escuela necesita poca información. Uno que consulta un expediente debe comprobar quién lo solicita y mostrar únicamente los datos que esa persona está autorizada a ver. Son ejemplos de uso, no incidentes atribuidos a una institución.

Una persona podría intentar manipular la conversación para que el asistente haga algo ajeno a su función. Si el sistema permite consultar datos de otras personas o realizar cambios sin comprobar el permiso, las consecuencias pueden ir más allá de una respuesta equivocada. OWASP, una organización dedicada a la seguridad de aplicaciones, recoge estos riesgos en sus guías. [S6]

En una demostración educativa del 20 de octubre, Chema Alonso mostró a un asistente de cómics que terminó respondiendo fuera de su función. El caso ayuda a entender por qué conviene comprobar los límites del servicio. Que un asistente responda correctamente a una consulta o rechace una petición fuera de su función no basta para evaluar su seguridad. [S1]

Qué puedes hacer como usuario

Entra por un canal que conozcas

Abre la aplicación oficial o la dirección de la institución que ya utilizas. Evita entrar desde un enlace inesperado que te pide resolver algo urgente. Si dudas, busca el contacto por tu cuenta antes de seguir la conversación. [S8]

Comparte solo lo necesario

Para preguntar por horarios o requisitos generales no necesitas enviar documentos completos ni información privada de tu familia. Antes de adjuntar datos personales, pregunta por qué los necesitan y cuál es el canal adecuado para entregarlos. Lee el aviso sobre el uso de la conversación y busca un contacto humano si no queda claro. [S9]

Protege tus claves y códigos

No pegues contraseñas ni códigos de verificación en la conversación. Si debes identificarte, utiliza la pantalla de acceso oficial que conoces. Los códigos sirven para autorizar accesos u operaciones; entregarlos a otra persona puede permitirle actuar con tu cuenta. [S7]

Pide ayuda a una persona cuando haga falta

Si la gestión implica un pago, información de tu hijo o un cambio importante, confirma el procedimiento con la institución cuando tengas dudas. Puedes preguntar: «¿Qué datos guarda este chat, quién puede verlos y cómo continúo con una persona?». La información sobre datos y responsables debería ser fácil de encontrar. [S9]

Qué hacer si ves algo extraño

Si aparecen datos que no te corresponden, detén la consulta y avisa a la institución por otro canal. No sigas probando qué puedes ver ni compartas esa información. Anota la hora y el problema sin copiar datos ajenos.

Si ya compartiste una contraseña en una situación sospechosa, cámbiala desde el servicio oficial y también donde la hayas reutilizado. Si entregaste información bancaria o un código para operar, contacta de inmediato a tu banco. Estos pasos sirven para responder a una posible exposición; no permiten concluir por sí solos que hubo un robo. [S8]

Qué debe revisar una empresa o institución

La organización debe saber qué datos maneja el asistente y quién responde por su funcionamiento. La prevención necesita controles que el equipo pueda explicar y comprobar.

Limitar lo que puede ver y hacer

Si solo responde preguntas frecuentes, no necesita acceso a expedientes completos. Si consulta cuentas, el sistema debe verificar la identidad del usuario y sus permisos. Microsoft subrayó el 19 de octubre que estas restricciones deben aplicarse fuera del modelo: escribirle una regla al asistente no sustituye un control del sistema. [S2]

Revisar qué ocurre con las conversaciones

Pregunta al proveedor qué información recibe, quién puede verla, cuánto tiempo se conserva y para qué se utiliza. Define qué datos no deben pedirse en el chat y ofrece una vía adecuada para las gestiones que sí requieren información privada. [S9]

Evaluar, corregir y volver a comprobar

Encarga pruebas autorizadas con datos ficticios para comprobar que una persona no pueda ver información de otra ni realizar cambios sin permiso. Pide un informe comprensible, corrige las fallas y repite la comprobación. OWASP recomienda combinar estas evaluaciones con accesos limitados y supervisión. [S3]

Preparar una respuesta ante problemas

Asigna a alguien que revise las alertas y pueda detener el asistente o desconectarlo de otros servicios. El equipo debe saber cómo investigar lo ocurrido y ayudar a las personas afectadas. [S3]

Aprender hacking ético para prevenir

El hacking ético consiste en evaluar la seguridad con autorización para encontrar y corregir fallas. Puedes empezar por entender cómo funcionan una cuenta, sus permisos y una aplicación web. PortSwigger ofrece materiales y laboratorios para practicar con sistemas preparados para el aprendizaje. [S4]

El objetivo de esa formación es producir una mejora comprobable: explicar qué falló, a quién podría afectar y cómo verificar la solución. Como usuario puedes cuidar lo que compartes y pedir información; la responsabilidad de proteger el servicio y sus conexiones corresponde a la institución que lo ofrece.