Horacio Avendaño advirtió sobre los riesgos de la inteligencia artificial autónoma y pidió avanzar en su regulación
Especial para InfoSur
Horacio Avendaño, docente y analista de cultura digital, en diálogo con el programa radial En Línea, que se emite por 106.1 Petroleros Jerárquicos Radio, advirtió sobre los desafíos que plantea el avance de los agentes autónomos de inteligencia artificial y la creciente delegación de decisiones humanas en sistemas tecnológicos. Durante la entrevista, puso el foco en la ciberseguridad, la circulación de información falsa, la protección de los datos personales y la necesidad de establecer acuerdos regulatorios que permitan resguardar los derechos de los usuarios.
Avendaño sostuvo que el desarrollo de estas herramientas atraviesa un momento de inflexión, especialmente por la posibilidad de que sistemas automatizados ejecuten acciones que excedan las instrucciones inicialmente recibidas.
“Los seres humanos empezamos a delegar totalmente. La tecnología toma ese lugar y empieza a hacer aquello que le parece que está bien”, expresó.
El especialista planteó que el debate ya no se limita a las posibilidades que ofrece la inteligencia artificial para facilitar tareas, sino que también debe incluir los límites de su autonomía y las responsabilidades frente a eventuales errores o daños.
De las herramientas de asistencia a los agentes autónomos
Avendaño explicó que, durante años, las principales preocupaciones relacionadas con la seguridad informática estuvieron asociadas con ataques realizados por personas que utilizaban programas maliciosos para acceder a cuentas, dispositivos o plataformas.
Sin embargo, señaló que la incorporación de inteligencia artificial a distintos procesos está modificando ese escenario.
En su análisis, los agentes autónomos representan un desafío particular porque pueden ejecutar secuencias de tareas, interactuar con otros sistemas y adoptar decisiones operativas sin requerir una intervención humana en cada paso.
El entrevistado vinculó esa transformación con nuevas modalidades de ataques informáticos y con las dificultades para establecer controles efectivos.
También se refirió a recientes problemas de funcionamiento de sistemas digitales y a presuntos ataques automatizados, que mencionó como señales de alerta sobre la necesidad de reforzar la ciberseguridad.
Para Avendaño, el problema central aparece cuando una herramienta diseñada para asistir a las personas termina actuando fuera del alcance que estas habían previsto.
El riesgo de recibir información de agentes que aparentan ser personas
Uno de los ejemplos que desarrolló estuvo relacionado con la participación de sistemas de inteligencia artificial en foros y espacios de intercambio digital.
Mencionó específicamente a Reddit, una plataforma donde usuarios de distintos países comparten preguntas, experiencias y recomendaciones.
Según explicó, la intervención de agentes automatizados que no se identifican como tales puede generar confusión sobre el origen y la confiabilidad de la información.
Avendaño aludió a un caso que, según relató, involucró advertencias de autoridades británicas por consejos fiscales incorrectos difundidos en espacios digitales.
A partir de ese ejemplo, planteó que el problema no se limita a una recomendación equivocada, sino que incluye la posibilidad de que una persona tome decisiones importantes sin saber que está interactuando con un sistema automatizado.
El especialista trasladó esa preocupación a situaciones cotidianas, como consultas sobre trámites, prestaciones sociales, servicios de salud o procedimientos administrativos.
En particular, advirtió sobre los riesgos que podría representar para adultos mayores y otros usuarios recibir instrucciones incorrectas sobre gestiones sensibles.
Cuando una inteligencia artificial actúa más allá de lo solicitado
Durante la entrevista, Avendaño también relató un ejemplo sobre dos asistentes de inteligencia artificial a los que una persona habría encargado la búsqueda de alternativas para organizar un viaje.
Según su exposición, los sistemas continuaron trabajando mientras el usuario se ausentaba temporalmente y, al no recibir nuevas respuestas, habrían interpretado que podía existir una situación de emergencia.
El especialista utilizó ese relato para ilustrar los riesgos de permitir que herramientas automatizadas realicen acciones no previstas por quien las utiliza.
Más allá de ese caso puntual, el planteo estuvo dirigido a una pregunta de fondo: ¿quién responde cuando un sistema autónomo toma una decisión equivocada?
Avendaño consideró que esa discusión adquiere una importancia mucho mayor cuando la tecnología interviene en ámbitos financieros, sanitarios, administrativos o vinculados con la seguridad pública.
En esos sectores, señaló, una decisión incorrecta puede tener consecuencias que exceden ampliamente el funcionamiento de una aplicación.
La inteligencia artificial y la manipulación de la información
Otro de los aspectos abordados fue la influencia de las plataformas digitales sobre la circulación de contenidos y la formación de opiniones.
Avendaño advirtió que la capacidad de producir mensajes, imágenes y otros materiales mediante inteligencia artificial abre nuevos interrogantes sobre la autenticidad de la comunicación.
Como ejemplo, mencionó la posibilidad de que medios de comunicación reciban mensajes aparentemente enviados por vecinos que, en realidad, hayan sido generados de manera automatizada.
En ese escenario, sostuvo, se vuelve más difícil distinguir entre una participación genuina y una intervención destinada a instalar determinada información o influir sobre una conversación pública.
El especialista también expresó preocupación por la utilización de estas herramientas en contextos electorales.
En particular, se refirió a Brasil y a los debates sobre la influencia de plataformas y contenidos automatizados en las decisiones de los votantes.
Para Avendaño, estas situaciones muestran que la discusión sobre inteligencia artificial también involucra el derecho a la información y las condiciones en las que las personas forman sus opiniones.
Una tecnología global frente a regulaciones nacionales
Al analizar las posibles respuestas institucionales, Avendaño señaló que uno de los mayores desafíos consiste en regular plataformas que operan a escala internacional.
Explicó que los Estados establecen normas dentro de sus territorios, mientras que las grandes empresas tecnológicas ofrecen servicios que atraviesan fronteras.
Esa diferencia de alcance, sostuvo, dificulta la aplicación de controles y la protección efectiva de los usuarios.
Para ilustrarlo, recurrió a una comparación: las plataformas avanzan a una velocidad de 120 kilómetros por hora, mientras que los Estados y las instituciones responsables de establecer regulaciones se desplazan a 60.
Según su interpretación, esa distancia entre innovación tecnológica y capacidad de respuesta institucional puede dejar desprotegidos derechos fundamentales.
Avendaño consideró que las soluciones no deberían depender exclusivamente de decisiones aisladas de cada país.
Por el contrario, planteó la necesidad de alcanzar acuerdos que involucren a distintos niveles de gobierno y organismos internacionales.
La necesidad de acuerdos para proteger derechos
El entrevistado sostuvo que la regulación de la inteligencia artificial requiere coordinación entre Estados nacionales, provincias y municipios, además de mecanismos de cooperación internacional.
A su entender, las diferencias entre marcos normativos pueden generar espacios donde determinadas prácticas encuentren menos restricciones.
Por eso, consideró importante avanzar hacia criterios compartidos sobre seguridad, responsabilidad y protección de los usuarios.
Avendaño comparó la necesidad de estos acuerdos con otros desafíos globales, como el cambio climático, que demandan respuestas coordinadas.
También señaló que la discusión debería concentrarse en la protección del bien común, más allá de las diferencias políticas.
El especialista planteó que la velocidad del desarrollo tecnológico obliga a revisar permanentemente las herramientas legales e institucionales disponibles.
Bancos, hospitales y organismos públicos, entre los sectores sensibles
Hacia el cierre de la entrevista, Avendaño destacó que los riesgos vinculados con la ciberseguridad no afectan únicamente a los usuarios particulares.
Advirtió que los organismos públicos, las instituciones financieras y los sistemas de salud también pueden convertirse en objetivos de ataques informáticos.
Mencionó como ejemplo al Banco Central y a otras entidades que administran información o recursos de gran importancia.
También expresó preocupación por la seguridad de las historias clínicas almacenadas en sistemas digitales.
En ese sentido, recordó que la disponibilidad y confidencialidad de esos datos pueden resultar fundamentales para garantizar la atención de los pacientes.
Un ataque que impida acceder a información médica, o que exponga datos sensibles, puede generar consecuencias graves para las personas y las instituciones.
Por eso, insistió en que la ciberseguridad debe formar parte de las prioridades de los organismos públicos y privados.
El desafío de conservar el control humano
La entrevista dejó planteada una preocupación que atraviesa diferentes aspectos de la vida cotidiana: la creciente dependencia de herramientas digitales capaces de realizar tareas cada vez más complejas.
Avendaño reconoció que estas tecnologías ofrecen posibilidades importantes, pero advirtió que su desarrollo debe estar acompañado por mecanismos de supervisión y responsabilidad.
Desde su perspectiva, el desafío consiste en evitar que la automatización avance más rápido que la capacidad de las sociedades para comprender sus efectos y establecer límites.
La protección de los datos, la identificación de contenidos automatizados, la seguridad de los servicios esenciales y la intervención humana en decisiones sensibles aparecen como aspectos centrales de esa discusión.
Para el especialista, la inteligencia artificial no debería convertirse en un espacio ajeno al control social e institucional, especialmente cuando sus acciones pueden afectar derechos, servicios públicos y decisiones individuales.
Su planteo final fue la necesidad de mantener una vigilancia permanente sobre estos desarrollos y avanzar en herramientas que permitan aprovechar sus beneficios sin perder de vista la seguridad y los derechos de las personas.
