Los Modelos de Lenguaje Personalizados son Fáciles de Crear – y Más Difíciles de Detectar

Las clonaciones de código abierto de ChatGPT pueden ser ajustadas a escala y con experiencia limitada o nula, facilitando la creación de modelos de lenguaje ‘privados’ que evaden la detección. La mayoría de las herramientas no pueden rastrear de dónde provienen estos modelos ni para qué han sido entrenados, lo que permite a los estudiantes y otros usuarios generar texto de IA sin ser detectados; pero un nuevo método afirma que puede identificar estas variantes ocultas detectando ‘rasgos familiares’ compartidos en las salidas de los modelos.

Según un nuevo estudio de Canadá, los modelos de chat de IA personalizados, similares a ChatGPT, son capaces de producir contenido de redes sociales que se asemeja mucho a la escritura humana, y que puede engañar a los algoritmos de detección y a los humanos por igual.