La comunidad de fanfiction se enfrenta a la IA (y a sí misma) por un detector de Claude
Durante la última semana, un nuevo movimiento dentro de las comunidades de fanfiction ha buscado identificar a autores que utilizan inteligencia artificial generativa para escribir sus obras. Sin embargo, los métodos de detección empleados son cuestionables y podrían señalar erróneamente a escritores que no usaron estas herramientas, según reportó The Verge.
El rechazo hacia el uso de Claude, ChatGPT y otras herramientas de IA ya era común en comunidades creativas, incluida la de fanfiction. Lectores y escritores han compartido durante meses consejos para identificar textos presuntamente generados por IA, desde el uso de rayas largas hasta lo que llaman "prosa púrpura" (un estilo de escritura recargado). El 29 de junio, una cuenta anónima de X llamada @heatedrivalryai presentó lo que parecía ser una solución más confiable: un "skin", similar a una extensión, para Archive of Our Own (AO3), el popular repositorio de fanfiction, que identifica supuestos artefactos de código dejados por el chatbot Claude, de Anthropic.
Cómo funciona el detector
Según la cuenta @heatedrivalryai, "cuando una respuesta generada por Claude se pega directamente en AO3 desde Claude, el texto queda envuelto por un código insertado por Claude llamado 'font-claude-response-body'. Su presencia indica el uso de Claude de manera definitiva" (traducción propia). Cuando alguien visita una página —como una obra de fanfiction— que contiene ese código, el fondo de la pantalla se pone rojo.
La periodista de The Verge probó el sistema con publicaciones de prueba en AO3 y también publicó un relato corto generado por Claude para experimentar por su cuenta: la pantalla se puso roja al pegar el texto directamente desde el chatbot, pero el efecto desaparecía si el mismo texto generado se pegaba desde otro origen, sin pasar directamente por la interfaz de Claude.
La persona detrás del detector señaló que su intención no era "crear un ambiente de desconfianza ni acusar a usuarios en particular" (traducción propia), pero las comunidades de fanfiction rápidamente empezaron a señalar públicamente a escritores cuyas obras fueron marcadas por la herramienta.
Limitaciones y riesgos
El código solo se conserva si el texto se copia directamente desde Claude hacia el editor de AO3, por lo que no detecta textos editados previamente en Google Docs o Microsoft Word antes de subirlos. Varios autores señalados ya modificaron sus obras para eliminar los artefactos, y las publicaciones futuras pueden evadir fácilmente la herramienta. Además, la marca no indica qué tan extensamente se usó Claude en una obra: podría tratarse de un relato generado por completo por IA o de apenas unas frases que un autor pasó por Claude para revisar ortografía o traducción.
Ni Anthropic, ni Google, ni OpenAI respondieron a las consultas de The Verge sobre si sus modelos dejan artefactos rastreables similares en los textos que generan.
Por qué importa
El episodio refleja un problema más amplio: según The Verge, no existe hoy una solución tecnológica confiable para distinguir de forma general un texto generado por IA de uno escrito por una persona. Herramientas como C2PA Content Credentials o SynthID, de Google, avanzan en la identificación de contenido generado por IA en imágenes, video y audio mediante marcas de agua invisibles, pero esos métodos no se transfieren a texto copiado y pegado. AO3 ya cuenta con una etiqueta oficial, "Created Using Generative AI", para que los propios autores declaren el uso de estas herramientas, aunque su adopción depende de la buena fe de cada escritor.