Un reciente estudio realizado por la Universidad de Oxford ha alertado sobre el impacto de la inteligencia artificial en el debate público, planteando desafíos para la transparencia y regulación de esta tecnología. Según el estudio, las herramientas de IA utilizadas para redactar, editar o contextualizar publicaciones en redes sociales podrían influir de manera casi imperceptible en la formación de opiniones de las personas. En palabras de Sandra Wachter, profesora de Tecnología y Regulación del Oxford Internet Institute, Universidad de Oxford, Nuestra investigación apunta a la comunicación mediada por inteligencia artificial como una nueva y más sutil forma de influir en las opiniones. Los investigadores descubrieron que los modelos de lenguaje de gran tamaño (LLM) pueden modificar sistemáticamente la orientación de publicaciones sobre temas controvertidos, incluso cuando se les instruye explícitamente conservar el significado original. Estos sistemas tienden a favorecer ciertas posturas y restar fuerza a otras sin que el usuario lo perciba. Mediante simulaciones basadas en datos reales de redes sociales como X y Facebook, se demostró que estas ligeras modificaciones pueden acumularse con el tiempo y desplazar la opinión colectiva de comunidades enteras. Los autores del estudio también destacaron que decisiones simples en el diseño de una plataforma, como instrucciones específicas dadas al modelo de IA, pueden influir significativamente en las respuestas generadas. Esta influencia no está contemplada directamente en muchas regulaciones actuales sobre inteligencia artificial. Por lo tanto, los investigadores consideran necesario desarrollar nuevas medidas de transparencia y supervisión para identificar cuándo la IA interviene en la creación y difusión de contenidos. El objetivo es proteger la integridad del debate público y reducir el riesgo de manipulación a gran escala. Fuente: Publimetro
Un reciente estudio realizado por la Universidad de Oxford ha alertado sobre el impacto de la inteligencia artificial en el debate público, planteando desafíos para la transparencia y regulación de esta tecnología. Según el estudio, las herramientas de IA utilizadas para redactar, editar o contextualizar publicaciones en redes sociales podrían influir de manera casi imperceptible en la formación de opiniones de las personas. En palabras de Sandra Wachter, profesora de Tecnología y Regulación del Oxford Internet Institute, Universidad de Oxford, Nuestra investigación apunta a la comunicación mediada por inteligencia artificial como una nueva y más sutil forma de influir en las opiniones. Los investigadores descubrieron que los modelos de lenguaje de gran tamaño (LLM) pueden modificar sistemáticamente la orientación de publicaciones sobre temas controvertidos, incluso cuando se les instruye explícitamente conservar el significado original. Estos sistemas tienden a favorecer ciertas posturas y restar fuerza a otras sin que el usuario lo perciba. Mediante simulaciones basadas en datos reales de redes sociales como X y Facebook, se demostró que estas ligeras modificaciones pueden acumularse con el tiempo y desplazar la opinión colectiva de comunidades enteras. Los autores del estudio también destacaron que decisiones simples en el diseño de una plataforma, como instrucciones específicas dadas al modelo de IA, pueden influir significativamente en las respuestas generadas. Esta influencia no está contemplada directamente en muchas regulaciones actuales sobre inteligencia artificial. Por lo tanto, los investigadores consideran necesario desarrollar nuevas medidas de transparencia y supervisión para identificar cuándo la IA interviene en la creación y difusión de contenidos. El objetivo es proteger la integridad del debate público y reducir el riesgo de manipulación a gran escala. Fuente: Publimetro
