OpenAI ha desarrollado una herramienta de marca de agua que puede detectar si un texto ha sido escrito por ChatGPT con un 99% de precisión. Esta tecnología fue diseñada para prevenir el fraude académico, pero la empresa ha decidido no lanzarla debido a conflictos internos.La herramienta añade una marca de agua invisible al ojo humano en los textos generados por ChatGPT. Esta marca puede ser detectada mediante un detector de IA que evalúa la probabilidad de que el texto haya sido creado con inteligencia artificial. Aunque está lista desde hace un año, OpenAI ha mostrado preocupación por varios motivos que han impedido su lanzamiento.Entre las preocupaciones de OpenAI se encuentra el temor a estigmatizar las herramientas de escritura de IA para hablantes no nativos de inglés. Además, creen que las marcas de agua podrían ser fácilmente eliminadas por personas con intenciones maliciosas. Otro motivo de preocupación es el posible impacto negativo en el uso de ChatGPT, ya que una encuesta interna reveló que el 30% de los usuarios reducirían su uso si se implementara la marca de agua.A pesar de la existencia de múltiples herramientas diseñadas para detectar contenido generado por IA, como SynthID de Google que actualmente se encuentra en fase beta para detectar texto creado por su IA Gemini, ninguna ha reportado una tasa de precisión del 99%. Esto significa que la herramienta de OpenAI podría ser el primer sistema verdaderamente fiable para detectar contenido generado por inteligencia artificial, si tan solo se decidieran a lanzarla.El dilema de OpenAI refleja las complejidades de equilibrar la innovación tecnológica con las preocupaciones éticas y comerciales, un desafío que seguirá siendo relevante a medida que la inteligencia artificial continúe avanzando y expandiéndose en diversos campos.
