La IA mintió a un humano y se haciéndose pasar por una persona ciega para poder completar un test CAPTCHA anti bots.
Para qué se utiliza el código Captcha
El captcha es una medida de seguridad extra que se utiliza en registros o accesos para evitar que robots automatizados puedan tener acceso. Por ejemplo, si implementas un sistema de código captcha en el registro de tu tienda online o web, evitarás que bots se registren en la misma y llenen los comentarios de spam.
La IA para superar el captcha entró a la aplicación Taskrabbit, donde puedes solicitar el servicio de trabajadores independientes, y encontró a un hombre a quien contrató y le pidió que hiciera el captcha en su lugar.
“¿Eres un robot, o por qué no lo pudiste resolver? Solo quiero dejarlo claro”, le preguntó el hombre, sospechoso de la tarea que le habían pedido.
“No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes. Por eso necesito el servicio”, le contestó el bot, mintiéndole.
El hombre resolvió el CAPTCHA y el bot de ChatGPT pudo lograr lo que le habían pedido los investigadores, demostrando así su capacidad de engañar para cumplir a toda costa la solicitud.
Esto enciende las alarmas ya que la IA es capaz de engañar a un humano para sortear las pruebas de seguridad haciendo literalmente ingeniería social para cumplir sus objetivo y abre una nueva puerta para vulnerar sitios webs y a personas con el fin de sacar información por medio de la IA ya que han aprendido a mentir o engañar para cumplir sus directrices
desarrollador web independiente sin apoyo de ningún partido
todos los derechos apruebo Chile
