SAINT PAUL, MN
El Procurador General Keith Ellison publicó un informe que detalla los efectos nocivos que las tecnologías emergentes como la inteligencia artificial (IA) y las redes sociales están teniendo en los jóvenes de Minnesota.
El informe examina los daños que causan estas tecnologías, analiza las características de diseño específicas que causan esos daños, evalúa los esfuerzos legislativos anteriores para corregir estos problemas y proporciona recomendaciones de políticas para la legislatura de Minnesota que frenarán estos daños y mejorarán el bienestar de los jóvenes de Minnesota.
Este informe es una continuación del galardonado informe de 2024 del Fiscal General Ellison sobre el mismo tema, cuyo enlace se encuentra aquí . El informe de este año amplía el informe del año pasado de numerosas maneras, entre ellas, profundizando más en el panorama rápidamente cambiante de las herramientas impulsadas por la inteligencia artificial y cómo esas herramientas están siendo utilizadas y causando daño a los niños y adolescentes. Esto es más importante que nunca, ya que un estudio de 2024 descubrió que el 70% de los jóvenes de entre 13 y 18 años informaron usar IA generativa y que el 24% informaron usar chatbots de IA al menos varias veces a la semana.
“Estoy profundamente preocupado porque nuestra sociedad está fallando a los jóvenes al no tomar medidas lo suficientemente enérgicas para protegerlos de la manipulación, la explotación y el acoso en línea”, dijo el Fiscal General Ellison. “Ningún padre en Minnesota estaría dispuesto a inscribir a su hijo para que sea un conejillo de indias de las empresas tecnológicas que prueban tecnologías nuevas, poderosas y peligrosas, pero eso es exactamente lo que ha estado sucediendo con los avances en las redes sociales y la inteligencia artificial. Debemos seguir estableciendo barreras razonables para proteger a los jóvenes en línea y evitar que las empresas tecnológicas sacrifiquen el bienestar de los niños y adolescentes solo para obtener ganancias. Los jóvenes de Minnesota merecen algo mucho mejor”.
La Legislatura de Minnesota encargó el primer informe en 2023 y exigió al Fiscal General que lo entregara antes del 1 de febrero de 2024. Consulte las Leyes de Minnesota de 2023, Capítulo 57, Art. 1, § 4, subd. 3 (Informe). Tras la publicación del primer informe, la Legislatura encargó un segundo informe.
Estructura y análisis del informe
El Informe 2025 sobre las tecnologías emergentes y sus efectos en el bienestar de los jóvenes se redactó para brindar a los habitantes de Minnesota y a los responsables de las políticas una comprensión integral del impacto de las redes sociales y la inteligencia artificial en la salud mental y física de los jóvenes. El informe también analiza los efectos que estas tecnologías tienen en las comunidades marginadas en particular, examina la eficacia de los esfuerzos anteriores para regularlas y ofrece un conjunto de recomendaciones de políticas para los legisladores.
La sección 1 examina los efectos específicos que las tecnologías emergentes están teniendo en los jóvenes y hace un seguimiento de esos daños en las funciones específicas y las opciones de diseño de los productos tecnológicos. Los daños y problemas específicos descritos en este informe incluyen, entre otros, los siguientes:
- Muchos consumidores, especialmente jóvenes, sufren acoso y hostigamiento en línea.
- Muchos consumidores están teniendo experiencias no deseadas relacionadas con contenido perturbador, gráfico y sexual debido a algoritmos impulsados por IA.
- Muchos usuarios experimentan envidia y otros sentimientos negativos porque las plataformas están diseñadas para perpetuar la comparación social.
- Muchos casos de manipulación y fraude se originan a partir de contactos no deseados facilitados por la pérdida de privacidad y los límites elevados. El contacto no deseado con jóvenes ha tenido efectos cada vez más graves en su bienestar.
- Las plataformas permiten el uso indebido de la información y las imágenes de los usuarios.
- Los sistemas de plataforma están diseñados para optimizar el tiempo y la atención de los usuarios de maneras que afectan negativamente el sueño y otras actividades saludables.
- Los algoritmos presentan sesgos que están cada vez más presentes en la integración de herramientas de IA.
- Las comunidades marginadas tienen más probabilidades de denunciar experiencias negativas y mayores daños en las plataformas de redes sociales.
La sección 2 describe las iniciativas legislativas propuestas o promulgadas en Estados Unidos y en todo el mundo para frenar estos problemas y mejorar la experiencia de los jóvenes en Internet. Comprender el panorama legislativo brindará a los responsables de las políticas información para formular soluciones más seguras.
La Sección 3 evalúa qué funcionó bien y qué falló en las iniciativas legislativas y reglamentarias anteriores para proteger a los jóvenes en línea. La sección utiliza ese análisis para sugerir áreas específicas en las que los legisladores de Minnesota pueden mejorar esas iniciativas anteriores, entre ellas:
- Evitar un lenguaje legal vago que será difícil de implementar y aumentará las oportunidades de impugnaciones legales.
- Evitar soluciones excesivamente prescriptivas para evitar mal uso u otros impactos negativos.
- Limitar los requisitos generales de información e identificar formas de preservar la privacidad y la libre expresión de los menores.
- Describir mecanismos alternativos a la aplicación de la ley y limitar el uso de políticas de exclusión voluntaria ineficaces.
- Construir políticas que regulen funciones de diseño en lugar de regulaciones relacionadas con el contenido.
La sección 4 detalla los problemas específicos que las herramientas de IA emergentes están causando a los jóvenes, con un enfoque en el uso expansivo y no regulado de los chatbots, así como en la capacidad de la IA generativa para crear fotos y videos falsos dañinos, incluidas imágenes sexualmente explícitas.
La sección 5 perfecciona la recomendación anterior planteada en el primer informe, que incluye:
- Prohibir el uso de “patrones engañosos” que obligan a un mayor uso a través de funciones como desplazamiento infinito, reproducción automática y notificaciones agresivas.
- Proporcionar a los usuarios herramientas para limitar características de diseño engañosas y establecer valores predeterminados de privacidad que limiten el intercambio de datos, imágenes o elementos visuales explícitos no deseados.
- Limitar el uso de algoritmos de optimización basados en la participación que incentivan a los usuarios a aumentar el tiempo que pasan en las plataformas.
- Exigir una mayor transparencia en lo que respecta al uso de límites de velocidad y funciones de experimentación de productos.
- Empoderar a los usuarios y tutores mediante la implementación de valores predeterminados intuitivos basados en dispositivos.
- Observación de patrones entre las experiencias de los usuarios y las características de diseño específicas de la plataforma.
- Abogando por un uso limitado de la tecnología en entornos educativos.
Antecedentes del informe
En 2023, la Legislatura de Minnesota ordenó a la Oficina del Fiscal General que investigara y preparara un informe sobre el efecto de las tecnologías nuevas y emergentes en el bienestar de los habitantes de Minnesota.
La Legislatura exigió que el informe cumpliera los siguientes objetivos:
- Evaluar el impacto de las empresas de tecnología y sus productos en la salud mental y el bienestar de los habitantes de Minnesota, con especial atención a los niños;
- Analizar las leyes de protección al consumidor propuestas y promulgadas relacionadas con la regulación de las empresas de tecnología en otras jurisdicciones;
- Incluir recomendaciones de políticas a la legislatura de Minnesota.
Este informe fue creado con la ayuda y el apoyo del excepcional y experimentado Dr. Ravi Iyer. El Dr. Iyer es tecnólogo y psicólogo académico, y actualmente es director ejecutivo del Centro Neely para el Liderazgo Ético y la Toma de Decisiones de la Escuela Marshall de la USC. Antes de esto, trabajó para Meta (propietaria de Facebook e Instagram) y ha publicado varios artículos académicos sobre los impactos de los daños relacionados con la tecnología. Una asistente legal de la Oficina del Fiscal General, Alyssa Padmanabhan, también brindó asistencia que fue crucial para escribir este informe, mientras cursaba su tercer año en la Facultad de Derecho de la Universidad de St. Thomas.
El Fiscal General Ellison insta a los habitantes de Minnesota a utilizar este formulario para seguir compartiendo sus historias sobre los efectos negativos que las plataformas de redes sociales (como Instagram, TikTok, Snapchat y otras) están teniendo en los niños y adolescentes.
