hace 1 año
242
OpenAI, la compañía responsable de la creación de ChatGPT, presentó un nuevo sistema impulsado por Inteligencia Artificial (IA) capaz de detectar aquellos textos que fueron escritos por una máquina.
El nuevo sistema viene a dar respuesta a un problema que se masificó tras la llegada al mercado de ChatGPT, como lo es el uso indiscriminado de la herramienta por parte de estudiantes para hacer trampa al entregar trabajos que no fueron escritos por ellos, sino por la máquina.
“Hemos entrenado un clasificador para distinguir entre texto escrito por un humano y texto escrito por IA de una variedad de proveedores. Si bien es imposible detectar de manera confiable todo el texto escrito por IA, creemos que este tipo de sistemas puede ayudar a prevenir las fake news”, indicaron desde la compañía.
Aclaran que si bien esta clase de herramienta no es infalible, sí puede ayudar a detectar posibles casos en los que se utilizó una IA para redactar un texto.
En este sentido indicaron que su sistema cuenta con una tasa de falsos positivos, del 9%. Esto quiere decir que en promedio 1 de cada 10 textos revisados por la IA de OpenAI arrojará un mensaje de que fue escrito por una máquina, cuando en realidad fue escrito por un ser humano.
“La confiabilidad de nuestro clasificador generalmente mejora a medida que aumenta la longitud del texto de entrada. En comparación con nuestro clasificador lanzado anteriormente , este nuevo clasificador es significativamente más confiable en el texto de los sistemas de IA más recientes”, añadieron.
OpenAI destacó que la herramienta estará disponible de manera gratuita en todo el mundo para facilitar que cualquier persona que pueda necesitarla pueda tener acceso a ella. Agregaron que esperan continuar desarrollando este sistema de forma tal que mejore su eficacia y continúe siendo útil.
Limitaciones
El sistema de detección de textos cuenta con una serie de limitaciones las cuales fueron expuestas por su desarrollador. Esto incluye aspectos como que su fiabilidad disminuye de manera importante al momento de analizar textos cortos con una extensión menor a las 1,000 palabras.
De igual manera, recomiendan que la herramienta sea utilizada únicamente para analizar textos escritos en inglés, ya que hacerlo en otros idiomas puede generar resultados erróneos.
Por último agregan que en aquellos casos en los que el texto escrito por una IA fue modificado por una persona, el sistema no será capaz de catalogarlos como redactados por una máquina.
Esto también te puede interesar:
– ChatGPT: 5 preguntas claves para entenderlo
– Cómo configurar ChatGPT para utilizarlo como un contacto de WhatsApp
– ChatGPT: 5 trabajos que podrían desaparecer con el chatbot de inteligencia artificial
Spanish