Formulación de políticas en la pausa¿Qué pueden hacer ahora los legisladores para combatir los riesgos de los sistemas avanzados de IA?

Destacados investigadores de IA han identificado una variedad de peligros que pueden surgir de las generaciones presentes y futuras de sistemas avanzados de IA si no se controlan. Los sistemas de IA ya son capaces de crear información errónea y falsificaciones de apariencia auténtica que degradan los fundamentos fácticos compartidos de la sociedad e inflaman las tensiones políticas.1 Los sistemas de IA ya muestran una tendencia a amplificar la discriminación y los prejuicios arraigados, marginando aún más a las comunidades desfavorecidas y los diversos puntos de vista.2 El actual y frenético ritmo de desarrollo empeorará significativamente estos problemas.

A medida que estos tipos de sistemas se vuelven más sofisticados, podrían desestabilizar los mercados laborales y las instituciones políticas y llevar a la concentración de un enorme poder en manos de un pequeño número de corporaciones no elegidas. Los sistemas avanzados de IA también podrían amenazar la seguridad nacional, por ejemplo, al facilitar el desarrollo económico de armas químicas, biológicas y cibernéticas por parte de grupos no estatales. Los sistemas en sí mismos podrían perseguir objetivos, ya sea humanos o autoasignados, de manera que otorguen un valor insignificante a los derechos humanos, la seguridad humana o, en los escenarios más angustiosos, la existencia humana.