¿Chatea con alguien que no hace chistes? Cuidado, puede ser una IA
Hay sistemas tan sofisticados que cuesta saber si se está conversando con una máquina o un humano, pero hay formas de averiguarlo.
Natividad Espinoza R.
Con algoritmos y sistemas de aprendizaje automático cada vez más sofisticados, pareciera que cada día que pasa es mas difícil diferenciar a un humano de una inteligencia artificial (IA). Más todavía en sistemas de chat como ChatGPT, la propuesta de OpenAI entrenada con grandes cantidades de texto para realizar todo tipo de tareas relacionadas con el lenguaje, como redactar textos muy coherentes y conversar con cualquier persona.
Previo al Día de los Enamorados, el estudio "Modern Love" de McAfee, que consultó a 5.000 personas de 10 países, reveló que tres de cada 10 encuestados pensaban recurrir a la IA para escribir sus cartas de amor. Y es más, según el sondeo el 69% no fue capaz de diferenciar entre un contenido generado por una máquina y uno escrito por un humano.
Si bien aquello puede resultar muy divertido, no diferenciar entre una IA y una persona también conlleva riesgos, debido a que en ocasiones pueden usarse con fines maliciosos.
"Hasta hace poco, una manera fácil de detectar estafas era mediante errores gramaticales y ortográficos en correos electrónicos sospechosos. Pero, con la llegada de ChatGPT, esta barrera de defensa parece haberse roto finalmente", sostuvo Juan Alejandro Aguirre, gerente senior de Ingeniería de Ventas LATAM de la empresa de software y hardware de seguridad, Sophos.
Si bien para él una buena señal es que ya hay expertos trabajando en inteligencias artificiales que puedan detectar textos generados por ChatGPT, advirtió que no se sabe qué tan efectivas serán estas medidas de defensa, por lo que lo mejor es aprender a diferenciar entre la inteligencia humana y la de las máquinas.
¿cómo "pillarlas"?
"En general los modelos de IA carecen de dos habilidades humanas fundamentales: emociones y contexto", aseguró Guillermo Beuchat, experto en TI e innovación, director de la consultora Transforme.
"Las emociones hacen alusión, por ejemplo, a la 'audacia' y 'factor sorpresa'", dijo el experto. Por ejemplo, no hacen chistes ni cumplidos.
"En general la IA es súper 'plana', habla siempre de forma gramaticalmente correcta y, si tú la atacas u ofendes, no asume una posición defensiva ni intenta discutir, ya que no se siente ofendida", agregó Beuchat.
Respecto del contexto, el profesional explicó que "la mayoría de las IA no son entrenadas de manera continua ni están conectadas a internet, sino que son entrenadas por los desarrolladores en 'olas' cada cierto tiempo. No pueden leer internet. Esto hace que no estén completamente actualizadas, por lo que si les preguntas cosas de actualidad muy recientes como '¿Quién ganó la final de la Champions League que ocurrió ayer?' o '¿La semana pasada subió o bajó la tasa de interés?', no será capaz de responderte. Si es un humano y no sabe la información, al menos podría revisar ahí mismo. Pero la máquina no tiene esa capacidad", afirmó el experto.
Además, en el caso de chats como ChatGPT, está el tema de la velocidad. "Los motores de IA escriben más rápido que los seres humanos", mencionó Beuchat.