Amazon entrenará su IA con contenido de Twitch salvo que el creador lo rechace

La plataforma de transmisiones Twitch comenzará a usar el contenido de sus creadores para ayudar a entrenar modelos de inteligencia artificial generativa de su empresa matriz, Amazon. La decisión provocó un rechazo rápido y concentrado en la comunidad de Twitch, sobre todo porque los creadores quedan incluidos por defecto: quien no quiera participar debe desactivar la opción manualmente.

Para Amazon, esas grabaciones son enormemente valiosas: ofrecen miles de horas de audio y video para entrenar modelos. Pero los usuarios de Twitch temen que, al tener que rechazar la práctica de forma manual, muchos terminen entregando su contenido sin siquiera enterarse. La inquietud es mayor en una plataforma donde los creadores suelen transmitir en vivo su imagen y su voz durante muchas horas a la semana.

"Si fuera opcional, nadie aceptaría"

En una transmisión del canal oficial de Twitch, la jefa de comunidad Mary Kish y el director de producto Mike Minton respondieron ante una audiencia en vivo de casi 3.000 usuarios molestos, muchos de los cuales llenaban el chat con mensajes en contra de la IA.

"¿Por qué no es de aceptación voluntaria? Eso es lo que todo el mundo está escribiendo sin parar en el chat. Lo entiendo", dijo Minton. "Bueno, hay una respuesta honesta… Si esto fuera de aceptación voluntaria, nadie aceptaría. Esa es honestamente la respuesta" (traducción propia).

La forma en que la empresa comunicó la noticia también deja ver que anticipaba el malestar: en lugar de anunciar que Amazon empezaría a entrenar con el contenido de los usuarios, Twitch presentó el cambio como que se "agrega una configuración que te permite excluir el contenido de tu canal del entrenamiento de modelos de IA generativa en Amazon" (traducción propia).

En algunos casos eso generó confusión sobre si el material ya había sido utilizado. Cuando un usuario preguntó si sus videos ya se habían usado para entrenamiento, Minton respondió: "En realidad no sé la respuesta a esa pregunta, porque no sé qué ha hecho Amazon en cuanto a entrenamiento de modelos ni qué ha usado y qué no" (traducción propia).

Kish señaló que Twitch no es un caso único. Meta, por ejemplo, usa contenido público de sus plataformas para entrenar sus propios modelos, lo que significa que si una cuenta de Facebook o Instagram es pública, esos datos probablemente ya se hayan usado. En el Reino Unido es posible rechazar ese entrenamiento; fuera de allí, la única manera de "excluirse" es usar configuraciones privadas, algo poco viable para creadores que monetizan sus cuentas.

Según Kish, incluir siquiera una opción de exclusión "es un reflejo de la reacción a la voz de esta comunidad, que no quiere entrenar modelos de IA generativa, y queremos darles esa opción" (traducción propia).

Cómo desactivarlo

Para excluirse del entrenamiento de IA en Twitch, hay que ir a la configuración del canal —no al panel de creador—, entrar en la pestaña de seguridad y privacidad, bajar hasta la opción "entrenamiento para IA generativa" y desactivarla.