Anthropic, la empresa detrás de Claude y otros modelos, es pionera en muchas cosas. Pero desde luego lo va a ser en lo último, que ya se ha convertido en una polémica con muchos usuarios anunciando en redes sociales que abandonarán el servicio. La compañía ha anunciado que los nuevos modelos de Claude lanzados en la UE a partir del 2 de agosto incorporarán marcas invisibles en el texto generado.
Y no solo en Europa. Anthropic afirma que dichas marcas acompañarán a todo el texto copiado desde cualquiera de sus aplicaciones y se aplicarán a nivel mundial en Claude, incluyendo a su API, Claude Code y todos los servicios en la nube. Lo mismo con las fotos y fotos, en las que se utilizarán metadatos de procedencia firmados.
Algunos de los usuarios no están de acuerdo, y han empezado a mostrar su descontento en redes sociales. El problema es que la firma digital no determina si un texto ha sido 100% generado por Claude o bien solo ha corregido, por ejemplo, la ortografía, y aunque estrictamente esta corrección viene de Claude, no es en realidad un texto generado por la IA.
La propia documentación de Anthropic señala que la detección de una marca no prueba que Claude haya redactado el contenido, por lo que es posible, como decimos, que se determine que se ha generado con IA, pero que simplemente lo haya revisado, traducido o reformateado. Y lo mismo sucede en sentido contrario: la ausencia de marcas generadas por Claude no garantiza la autoría humana, ya que una edición exhaustiva, la traducción, el uso de fragmentos breves, la eliminación de metadatos o convertirlo a imagen y luego copiar el texto mediante OCR pueden hacer que las marcas desaparezcan.
Esto es precisamente lo que critican los usuarios, puesto que, aunque es una medida efectiva para evitar los fraudes de la IA de aquellos que no tienen muchos conocimientos, es fácilmente falseable por cualquiera con unas mínimas nociones de cómo funciona este tipo de marcado. En otras palabras, la marca de agua de Claude puede indicar que alguno de sus modelos intervino de alguna forma en un texto, pero no puede decir, realmente, quién lo escribió.
Y ya conocemos el problema de muchos detectores de IA que dan constantemente falsos positivos incluso en textos originales escritos hace siglos de la literatura universal, que los catalogan como generados por IA con una precisión de más del 99%. O incluso tesis doctorales publicadas y revisadas décadas antes de la llegada de internet.
Pese a la polémica de Anthropic es una buena noticia
No obstante, aun con las dudas que puede generar este sistema de marcado automático, es una noticia tan buena como importante. No hay duda de que se irá refinando en el futuro, no solo por parte de Anthropic, sino de otros grandes actores de la IA, y será un antes y un después en la identificación de la detección de textos generados por inteligencia artificial, que tiene un enorme impacto en algunas industrias y profesiones, como la de los textos académicos, el derecho, para los creadores de contenido, la prensa y otros ámbitos, donde esta generación de contenido de IA de baja calidad, popularmente llamada ‘slop’, está teniendo unas enormes implicaciones en la calidad de los textos, e incluso, consecuencias legales importantes.
Ahora resulta más sencillo identificar documentos judiciales, contenido de baja calidad generado por IA y largo etcétera… aunque a muchos usuarios les parezca una mala idea.
Seguir leyendo: Anthropic empezará a marcar de forma invisible todos los textos y fotos que genera la IA. Sus usuarios no están muy contentos