Por qué la IA debería hacer que los padres reconsideren publicar fotos de sus hijos

El verano pasado, mi esposa y yo superamos las adversidades de la mediana edad y dimos a luz a una hermosa niña. Miles de personas que me siguen en Instagram y otras aplicaciones aún no lo han no...

El verano pasado, mi esposa y yo superamos las adversidades de la mediana edad y dimos a luz a una hermosa niña. Miles de personas que me siguen en Instagram y otras aplicaciones aún no lo han notado. No es que haya ignorado a todos. Simplemente he decidido no publicar fotos de mi hijo en redes sociales, una práctica parental cada vez más popular por el uso extendido de la inteligencia artificial.

GPT-5. Lo bueno y lo malo del nuevo motor que da vida a ChatGPT

Los padres han debatido los riesgos y beneficios de publicar fotos de sus hijos en línea durante décadas, casi desde que existen las plataformas para compartir fotos. Pero cuando las redes sociales se integraron en la sociedad, el “sharenting” se convirtió en la norma. Según estudios, solo una cuarta parte de los padres no comparte fotos de sus hijos en línea por temor a que depredadores y empresas en línea puedan recopilar sus datos personales.

Los padres como yo nos hemos unido al bando de los “nunca publicar” debido a una amenaza más reciente: aplicaciones que pueden generar automáticamente desnudos deepfake con la cara de cualquier persona utilizando inteligencia artificial generativa, la tecnología que impulsa a los chatbots populares.

Las llamadas aplicaciones de nudismo son sencillas y económicas, y algunas incluso ofrecen pruebas gratuitas. Revisé algunas. Estas aplicaciones son ampliamente utilizadas por estudiantes en las escuelas y, para las víctimas, tener desnudos generados artificialmente ha sido tan traumático como si las fotos fueran reales. Aunque una nueva ley federal tipifica como delito publicar desnudos falsos no consentidos en línea, nada impide que la gente use las aplicaciones de nudismo, que han proliferado en la web. Decenas de sitios web de nudismo generan millones de dólares al año.

“Está en todas partes”, dijo Alexios Mantzarlis, fundador de la publicación tecnológica Indicator, que investigó 85 sitios web de nudismo. “Cualquier niño con acceso a internet puede ser víctima o agresor”.

Cerca de su máximo histórico. La inversión que creció casi 56% en el último mes

Además de los deepfakes creados con inteligencia artificial, la publicación de fotografías conlleva más riesgos (como la posible exposición de información personal confidencial de los jóvenes a actores maliciosos) que pueden desanimar a los padres.

Para que quede claro, publicar o no fotos familiares es una decisión personal, así que esta columna no pretende condenar a los padres que sí las publican. (¡Me gusta ver fotos de los hijos de otros en redes sociales!). En cambio, quiero explicar qué hay que tener en cuenta al publicar fotos de niños en línea.

Esto es lo que debes saber.

El auge de los deepfakes

Los desnudos falsos de personas reales no son nada nuevo. Durante muchos años, aplicaciones de edición de fotos como Adobe Photoshop permitían retocar fotos para lograr imágenes realistas. Sin embargo, debido al tiempo y la habilidad necesarios para crear parodias convincentes, las víctimas solían ser celebridades.

Las aplicaciones de nudificación con IA han revolucionado el panorama. Los abusadores solo necesitan visitar uno de los sitios web y subir una imagen de su víctima. Los “nudificadores” suelen aceptar pagos con tarjeta de crédito o criptomonedas a cambio de tokens virtuales para producir desnudos falsos.

La empresa más valiosa de la historia. Cómo hizo Donald Trump para quedarse con el 15% de las ventas a China de Nvidia

La publicación de deepfakes se consideró recientemente un delito federal en Estados Unidos cuando el presidente Trump firmó la Ley Take It Down, un proyecto de ley bipartidista que combate la pornografía vengativa que incluye imágenes de desnudos no consensuados y falsificaciones generadas por IA. Si bien la legislación exige que las redes sociales eliminen las imágenes ofensivas, no prohíbe a las empresas ofrecer sus propias aplicaciones generadoras de imágenes.

Empresas de redes sociales como Snap, TikTok y Meta prohíben la publicidad de nudistas en sus aplicaciones, y algunos estados están empezando a debatir leyes que prohibirían a las empresas ofrecer aplicaciones de nudistas. Sin embargo, si esto ocurre, la aplicación de la ley sería difícil, ya que muchos de los creadores de las aplicaciones residen en el extranjero.

En otras palabras, cualquiera puede usar fácilmente una aplicación de desnudos en un niño y conservar las fotos, sin que nadie lo sepa.

Un sitio que examiné ofrecía una prueba gratuita para desnudar digitalmente a alguien en una foto; a partir de ahí, los usuarios podían pagar una suscripción de $49 al mes por 600 créditos, u 8 centavos por desnudo falso. La aplicación también permitía crear animaciones pornográficas.

Mucha gente está subiendo fotos a estas aplicaciones nudistas, que generan aproximadamente 36 millones de dólares en ingresos al año para las compañías que ofrecen el software, dijo Mantzarlis, quien basó la estimación en los datos de tráfico de un conjunto de sitios web.

Las aplicaciones porno con IA han sido tan molestas que Meta tomó medidas. En junio, la compañía presentó una demanda en Hong Kong contra un desarrollador de varias aplicaciones de nudismo con IA que había logrado eludir las tecnologías de detección de anuncios de Meta para promocionar su software en Instagram y Facebook.

Una portavoz de Meta dijo que la compañía también compartió información sobre aplicaciones y sitios web ofensivos con el Programa Lantern de Tech Coalition, un grupo de empresas, incluidas Google y Microsoft, que trabajan para proteger a los niños del abuso sexual en línea.

Sin embargo, los perpetradores solo necesitan saber el nombre de un sitio nudista para llegar a él a través de un navegador web, y en las escuelas, los estudiantes conocen los más populares, dijo Josh Golin, director ejecutivo de Fairplay for Kids, una organización sin fines de lucro que se enfoca en proteger a los niños de los medios dañinos.

“Los maestros y administradores escolares con los que hablo dicen que esto sucede todo el tiempo en nuestras escuelas, donde los niños crean desnudos falsos”, dijo.

Aunque las nuevas leyes podrían dificultar que los abusadores compartan deepfakes con otros, para muchas víctimas el daño ya está hecho.

La primavera pasada, estudiantes de una escuela secundaria del noreste de Iowa denunciaron a las autoridades escolares que otros estudiantes habían usado “nudificadores” para crear digitalmente imágenes de ellos desnudos. Casi al mismo tiempo, legisladores de Minnesota, en medio de incidentes similares, presentaron una ley dirigida a las empresas que ofrecen aplicaciones o sitios web de “nudificadores”.

Lo que esto significa para los padres es que los abusadores podrían copiar la foto de un niño publicada en sus redes sociales y subirla a una aplicación de nudificación. O, si están cerca, podrían usar una cámara para tomarle una foto al niño y luego subirla a la herramienta. No hay manera de evitar que alguien haga esto último, pero la primera situación se puede evitar si se opta por no publicar fotos de sus hijos en línea.

Las cuentas privadas de redes sociales son una solución imperfecta

Los padres que deseen compartir fotos de sus hijos en redes sociales pueden reducir significativamente el riesgo publicándolas solo en una cuenta que sus amigos y familiares cercanos puedan ver. Sin embargo, esto aún tiene limitaciones. Quienes cometen abuso sexual infantil suelen conocer a la víctima, por lo que un seguidor de Instagram con acceso a su perfil podría ser el culpable, afirmó Sarah Gardner, fundadora de Heat Initiative, un grupo de defensa de la seguridad infantil.

“El hecho de que tengas una cuenta privada no significa que alguien que conoces no vaya a tomar tus fotos y hacer algo malicioso con ellas”, dijo.

En un incidente de este tipo, hace aproximadamente una década —mucho antes de la llegada de los deepfakes generados por inteligencia artificial—, una madre de Riverton, Utah, descubrió que las fotos de sus hijos que había compartido solo con amigos y familiares en Facebook habían terminado en sitios web de pornografía.

Incluso una fiesta de cumpleaños es reveladora

Además de las falsificaciones profundas de inteligencia artificial, todavía hay que tener en cuenta las amenazas de la vieja escuela, como el robo de identidad.

La fiesta de cumpleaños de un niño puede parecer un acontecimiento que vale la pena difundir en las redes sociales, pero incluso ese tipo de información aparentemente inocua podría exponer a los niños a daños en el futuro.

Las fotografías de la fiesta de cumpleaños pueden revelar el día y año exactos en que nació el niño, información que puede combinarse con otros datos que los piratas informáticos han recopilado mediante violaciones de ciberseguridad para cometer robo de identidad, dijo Leah Plunkett, autora de Sharenthood, un libro sobre compartir información sobre niños en línea.

Aunque parezca improbable, el robo de identidad de menores aumentó un 40% entre 2021 y 2024, con aproximadamente 1,1 millones de niños víctimas de robo de identidad cada año, según la Comisión Federal de Comercio (este es un buen recordatorio para que todos los padres congelen el crédito de sus hijos).

¿Por qué hacemos esto?

Compartir datos forma parte del contrato social de la era digital. Compartimos nuestra ubicación, por ejemplo, para obtener indicaciones útiles de las aplicaciones de mapas. Para cualquier padre que esté considerando publicar fotos de sus hijos, es útil preguntarse: ¿cuáles son los beneficios?

Las aplicaciones de redes sociales como Instagram, Snapchat y TikTok son herramientas prácticas para compartir fotos y videos atractivos con un amplio grupo de personas que nos importan. Pero quienes realmente se benefician son las propias empresas de redes sociales, que recopilan datos para mejorar sus productos y así lograr que la gente, incluidos nuestros hijos, los siga usando.

Entre los jóvenes, el uso frecuente de las redes sociales se ha asociado con problemas de salud mental, como ansiedad, depresión y sentimientos de soledad, según docenas de estudios.

“Su objetivo no es ayudar a que los niños se desarrollen sanos y completos, sino ganar dinero manteniendo a sus hijos conectados el mayor tiempo posible”, dijo Nicki Reisberg, exprofesora de marketing que presenta un podcast sobre la crianza en la era digital, y agregó: “Si tienen decenas de miles de datos antes de que su hijo se conecte, pueden hacerlo con mayor eficacia”.

Hay maneras menos riesgosas de compartir fotos de nuestros hijos. Mi método preferido es enviar fotos de mi hija a algunos amigos y familiares por mensajes de texto cifrados. Algunos padres comparten álbumes de fotos familiares con un grupo pequeño de personas a través de servicios en línea como iCloud de Apple y Google Fotos.

Al final, soy consciente de que todo esto puede ser una batalla perdida. Muchos colegios publican fotos de niños en redes sociales para demostrar que se lo están pasando bien (probablemente seré yo el padre desagradable que exige que borren las fotos de mi hija). Y con el tiempo, cuando mi hija crezca, tendrá su propio teléfono y decidirá si publica o no sus fotos.

Pero hasta que llegue ese día, haré lo que pueda para mantener sus fotos fuera de la web.