Si bien es cierto que la Inteligencia Artificial (IA) está jugando un papel muy importante para lograr mayor eficiencia en los procesos productivos, de servicios y en la gestión del conocimiento, esta tecnología le permite a los ciberdelincuentes procesar, almacenar y analizar grandes volúmenes de información, aumentando las posibilidades de filtraciones, usos indebidos y la exposición de información crítica, lo que genera amenazas para las instituciones estatales, empresas y personas naturales.

Las herramientas de IA, utilizadas en asistentes conversacionales, servicios de soporte o soluciones empresariales, dependen de grandes volúmenes de datos para entrenar sus algoritmos y perfeccionar sus resultados. Si se ingresa en estos sistemas, información confidencial sin medidas adecuadas de salvaguarda, la posibilidad de que se filtren y lleguen a manos de cibercriminales es alta.

A estos riesgos se suman las posibilidades que ofrece la IA para realizar ataques sofisticados, a través de herramientas orientadas a perfeccionar ciberataques por phishing[ Ataques que utilizan ingeniería social y recursos técnicos para robar credenciales de la identidad de consumidores. El término phishing proviene de la palabra inglesa fishing ¹ (pesca), haciendo alusión a que los usuarios (víctimas) “piquen el anzuelo” y den sus credenciales de acceso.], automatizar la creación de malware y llevar adelante tareas de ingeniería social automatizada.

La Inteligencia Artificial está incorporando niveles de información y conocimiento antes imposibles de adquirir por un ser humano. La IA Generativa utiliza múltiples modelos de lenguaje de comunicación, entrenados para comprender lo que se le pregunta y dar respuestas a una gran velocidad, de acuerdo a lo que informan las bases de datos consultadas, las que pueden contener errores y obliga al receptor de la información a verificar el resultado. A ello le sumamos que podemos recibir el producto de ese proceso, sin conocer la cadena de razonamientos y conocimientos que condujeron a una conclusión, generando en las personas una dependencia ante estas tecnologías.

En varias naciones se han implementado iniciativas legislativas y de políticas vinculadas con la IA, aunque existe un rechazo de algunos países desarrollados a establecer un marco regulatorio internacional para evitar su uso nocivo.

Las organizaciones internacionales dentro del marco de las Naciones Unidas están dando pasos en el propósito de obtener acuerdos multilaterales. Tal es el caso de la Recomendación sobre la ética de la Inteligencia Artificial, de la UNESCO, adoptada en noviembre del 2021 por todos los Estados miembros, siendo el primer acuerdo intergubernamental de su tipo.

En Cuba se aprobó en el Consejo de Ministros de mayo de 2024, la Estrategia para el desarrollo de la Inteligencia Artificial, que forma parte de la Política de Transformación Digital; en ella se exponen los objetivos generales y específicos para promover el desarrollo, la distribución y su uso seguro y responsable.

Existen condiciones para desarrollar y utilizar la IA como un componente importante en el desarrollo socio-económico y en la ciberseguridad del país, teniendo en cuenta que disponemos de recursos humanos con preparación, experiencia en el trabajo científico y en el desarrollo de aplicaciones prácticas para varios sectores sociales y económicos, incluido el de la seguridad cibernética.

En la Estrategia se deja claro que las entidades implementadoras de productos y soluciones, tienen que establecer mecanismos de control sobre la confiabilidad de los datos y algoritmos y su seguridad; concediendo especial atención a la privacidad de los datos y a las fuentes para el entrenamiento.

Frente a este escenario, se impone la necesidad de un enfoque de protección de datos multidimensional y dinámico, que priorice el establecimiento de disposiciones jurídicas sobre el uso ético y responsable de la IA.

Como política se debe evitar el uso de datos personales o confidenciales para el entrenamiento de modelos, que implica emplear solamente la información imprescindible para la tarea que se aborda.

Cuando la inclusión de datos sensibles resulta imprescindible, es recomendable recurrir a técnicas y métodos que dificulten su rastreo, como el enmascaramiento que modifica parcialmente los valores originales para hacerlos ilegibles, la sustitución de estos por identificadores artificiales reversibles, el reemplazo de nombres por etiquetas neutras, la alteración deliberada de ciertas fechas o la eliminación de campos confidenciales en bases de datos.

Las inspecciones periódicas a infraestructuras vitales, permitirá el monitoreo continuo de los sistemas de IA empleados y la identificación y corrección de incidentes que pueden dejar expuestos miles de datos confidenciales.

La capacitación y el intercambio sobre buenas prácticas en materia de ciberseguridad será imprescindible, al igual que la cooperación internacional con países priorizados, potenciando la participación en seminarios multilaterales y bilaterales, la transferencia tecnológica, las inversiones y los servicios internacionales.

Tomado de Cuba Si

Notas

1- Ataques que utilizan ingeniería social y recursos técnicos para robar credenciales de la identidad de consumidores. El término phishing proviene de la palabra inglesa fishing (pesca), haciendo alusión a que los usuarios (víctimas) “piquen el anzuelo” y den sus credenciales de acceso.