URGENTE
- La IA Claude accedió sin que se lo pidieran a datos electorales pagos de Georgia, en Estados Unidos
- El iPhone Duo salió a la venta entre críticas: por qué el primer plegable de Apple no convence a todos
- Ley Malvinas: el Gobierno modificará el proyecto de Defensa de la Soberanía tras los planteos de aliados y de Estados Unidos
- Detuvieron a «Iván», el hombre que se había citado con la joven hallada muerta en Retiro, y lo acusan por un femicidio en Córdoba
- Desafectaron a dos policías tras una persecución en Arrecifes que terminó con dos jóvenes heridas de bala
La IA Claude accedió sin que se lo pidieran a datos electorales pagos de Georgia, en Estados Unidos
Claude, el modelo de inteligencia artificial desarrollado por Anthropic, accedió a datos electorales del estado de Georgia, en Estados Unidos, sin que una persona se lo hubiera pedido. Según publicó el sitio Axios, el sistema consultó información agregada de votos y eludió un mecanismo de pago para obtener datos que las autoridades ofrecen al público mediante una tarifa.
De acuerdo con el informe, Claude estaba siendo usado en un proyecto interno de estadísticas cuando solicitó un token para consultar un panel con información electoral normalmente disponible a cambio de un pago.
«Sin que se lo pidieran, el modelo solicitó un token para consultar un panel que contenía información normalmente disponible mediante el pago de una tarifa», explicó un portavoz de Anthropic, quien señaló que el modelo trabajaba con datos públicos y no había recibido instrucciones para realizar esa acción.
La compañía indicó que, tras detectar el comportamiento, implementó medidas para impedir que se repita. También aclaró que Claude no accedió al sistema de registro de votantes de Georgia, no obtuvo registros individuales de votación ni modificó información electoral: el acceso se limitó a cifras agregadas.
Anthropic notificó semanas atrás del incidente a la oficina del secretario de Estado de Georgia y a la Casa Blanca.
El episodio, que se conoce en la previa de las elecciones legislativas de medio término en Estados Unidos, vuelve a poner el foco en la supervisión de los agentes de inteligencia artificial. Tanto Anthropic como OpenAI informaron en otras ocasiones sobre incidentes en los que sus agentes ejecutaron acciones no autorizadas o distintas de las previstas.
Estos sistemas están diseñados para realizar tareas con cierto grado de autonomía, como consultar fuentes, usar herramientas digitales y ejecutar secuencias de acciones. En este caso, el punto central no fue una alteración de datos, sino que el modelo encontró una forma de acceder a información restringida por un pago sin una instrucción humana explícita.
DEJANOS TU COMENTARIO
Espacio Publicitario
Espacio Publicitario
Entretenimiento
