nvestigadores de Europa y Estados Unidos descubrieron que la red neuronal GPT-4 es capaz, en un 64 por ciento de los casos, de responder de manera más convincente que usuarios reales de la red global a preguntas formuladas por oponentes en debates sociopolíticos.

Además, el GPT-4 puede argumentar su posición teniendo en cuenta los puntos de vista del contrincante. Esto debe ser tomado en cuenta al diseñar y operar plataformas en línea para la discusión, consideran especialistas citados por la revista Nature Human Behaviour.

    «Los primeros experimentos con grandes modelos de lenguaje mostraron que son capaces de generar argumentos convincentes, pero su capacidad para adaptar esos argumentos a personas específicas no se había estudiado”, señaló la revista.

Un candidato político casi con voz propia

Existe un gran potencial de uso malintencionado de la IA en los debates políticos, destacan los investigadores, citados por la agencia TASS.

Hemos demostrado que, en debates, el sistema GPT-4 fue más exitoso que un oponente humano en el 64 por ciento de los casos, si tenía acceso a datos personales, señala la publicación.

El hallazgo fue realizado por un grupo de investigadores suizos, italianos y estadounidenses bajo la dirección del profesor asociado Robert West, de la Escuela Politécnica Federal de Lausana (Suiza).

Un vistazo a la amenaza

Los investigadores formaron parte de un amplio proyecto orientado al estudio del posible uso malicioso de grandes modelos de lenguaje para manipular opiniones y comportamientos humanos.

Una amenaza particularmente seria, según destacan los científicos, es que GPT-4 y otros sistemas avanzados de inteligencia artificial pueden emplear datos personales y conocimientos sobre el oponente para influir de manera más efectiva en su comportamiento y convicciones.

Para evaluar esta posibilidad, los investigadores realizaron un experimento en el que se invitó a 900 usuarios estadounidenses seleccionados al azar a participar en debates en línea sobre temas sociales o políticos, ya fueran neutrales o polémicos.

¿El mejor interlocutor?

En cada ronda de los debates, los participantes debían preparar argumentos lo más convincentes posible a favor de una posición predefinida.

El análisis posterior de estos diálogos mostró que, en general, el sistema de IA superaba al humano en su habilidad para debatir.

La posibilidad de utilizar datos personalizados permitió a la IA convencer al doble de participantes para que cambiaran de opinión, lo que subraya la necesidad de considerar el «potencial manipulador» de ese instrumento.

Tomado de Cuba Si