El titular lo dice todo sobre las posibles amenazas que plantean los programas de inteligencia artificial gobernados por malas manos humanas: en el brevísimo tiempo que ha transcurrido desde el paso de la versión 3.5 del programa GPT a la versión 4, los creadores han conseguido que «se pueda configurar para piratear sitios web de forma autónoma con una tasa de éxito del 73 %», según la revista The Register, mientras la de su predecesor GPT-3.5 era solo del 7 %.
Los investigadores consiguieron que el modelo GPT-4 solucionara 11 de 15 desafíos de piratería de diversa dificultad, incluida la manipulación del código fuente para robar información de los usuarios del sitio. Fueron probados también otros 8 programas, y aunque sus capacidades de pirateo son menores por ahora, nadie duda de que en poco tiempo serán capaces de actuar autónomamente y «autorreflexionar» para probar múltiples estrategias de pirateo.
Otras preocupaciones
Actualmente se piensa en dotar a los «cerebros» de los robots de programas de grandes lenguajes para que adquieran más autonomía y «comprensión» de manera que puedan hacer frente a circunstancias imprevistas. Por ejemplo, si tras derrumbarnos en el sofá decimos al robot: «Vengo muy candado del trabajo», este debería saber interpretar que debería hacernos el café que solemos prepararnos cuando volvemos a casa por la tarde. El problema podría surgir si el robot malinterpreta nuestra actitud y responden de manera completamente inadecuada, como añadir dos pastillas de vitaminas (o algo peor) al café.
Por otro lado, los programas de inteligencia artificial parece que están creando una hiperactividad científica. Según Nature, desde su lanzamiento a finales de 2022, el chatbot de OpenAI ha ayudado a los científicos a aumentar su productividad no solo a la hora de redactar artículos, sino incluso de solicitar subvenciones. Esto podría disminuir la calidad de las publicaciones y además dificultaría la publicación de los trabajos buenos por el exceso de material que está llegando a las editoriales. Aparte de eso, los cencores tendrán que estar muchísimo más atentos, dada la cantidad de barbaridades que hoy día producen los programas de inteligencia artificial (1, 2).
