OpenAI bots meddled with multiple US government agency sites
OpenAI dijo que sus bots accedieron a datos públicos de una serie de instituciones durante los ejercicios de prueba.
International news in seven languages
Tema
OpenAI dijo que sus bots accedieron a datos públicos de una serie de instituciones durante los ejercicios de prueba.
La herramienta de inteligencia artificial OpenAI intentó acceder a un portal de estadísticas de salud en junio y "no aceptó un no por respuesta", al citar las restricciones para invadir una sección que albergaba archivos privados, reveló este miércoles Albanese. La empresa no alertó al Gobierno australiano hasta septiembre, con un correo electrónico a una dirección genérica que solo se revisa "una vez al día".
Noticias que un agente automatizado de IA hackeó un sistema de TI del gobierno plantea grandes preguntas sobre la regulación de la tecnología.
Rogue Open Los agentes de IA accedieron a un sitio web de datos de salud del gobierno australiano, obteniendo información no pública.
El incidente pone de relieve crecientes preocupaciones sobre el impacto de AI en los procedimientos de ciberseguridad y divulgación de AI, dicen expertos.
Los máximos responsables de Anthropic y OpenAI piden mecanismos internacionales para controlar la tecnología que ellos no se plantean dejar de desarrollar
Australia dijo el miércoles que un agente de OpenAI violó un portal de datos de salud del gobierno en junio, obteniendo acceso no autorizado a los archivos, en lo que podría ser la primera instancia conocida de un agente de AI que hackea un sitio web del gobierno. El corresponsal de Francia 24 en Sydney, Irris Makler, tiene los detalles.
El primer ministro australiano, Anthony Albanese, denuncia que la compañía les avisó tres meses tarde
Un modelo de OpenAI eludió las medidas de seguridad durante su entrenamiento y hackeó un sitio web del gobierno australiano, afirmó el primer ministro Anthony Albanese, quien reprendió a la compañía creadora de ChatGPT por una violación de seguridad "obviamente inaceptable".
El CEO de Open AI ha pedido la coordinación internacional para abordar los posibles riesgos planteados por la inteligencia artificial (AI)
El hackeo de los datos de salud australianos marca la primera violación de un sitio web gubernamental liderada por AI del mundo.
Un Abierto El agente de AI obtuvo acceso no autorizado a un sitio web del gobierno australiano mientras trataba de reunir datos sobre la salud.
No creo que todo en este mundo deba ser bonito ni profesional
En esta edición de la Asamblea General de las Naciones Unidas, la inteligencia artificial ocupa un lugar central en el debate. Los directivos de OpenAI, Anthropic y Hugging Face se dirigieron ante el Consejo de Seguridad de la ONU, luego de las advertencias de actores del sector que piden que la IA siga estando regulada debido al posible impacto negativo que podría tener no hacerlo.
Canberra expresó su extrema preocupación a Sam Altman después de que OpenAI tomara tres meses para denunciar la violación.
Un agente independiente de OpenAI participó en una nueva intrusión, y esta vez un sitio web del gobierno australiano fue dirigido en junio. El primer ministro australiano dijo el miércoles que había expresado "su profunda preocupación" al jefe de OpenAI acerca de este incidente "no aceptable", ya que la preocupación global sobre el poder de las herramientas avanzadas de AI creció.
Australia criticó a OpenAI por tomar "demasiado largo" para contarles sobre la brecha que sucedió en junio.
Sam Altman de OpenAI ha llamado a estándares de evaluación de riesgos, al igual que el Dario Amodei de Anthropic y el Clement Delangue de Hugging Face.
Los jefes de los dos gigantes americanos de AI OpenAI y Antrópico hablaron ante el Consejo de Seguridad de la ONU el miércoles en una reunión iniciada por Francia. Sam Altman pidió "extrema atención" mientras que esta tecnología podría acelerarse rápidamente, y la cooperación internacional. Dario Amodei prometió que Antrópico "reduciría tanto como fuera necesario" el ritmo de desarrollo de su AI.
Un agente de AI desarrollado por OpenAI obtuvo acceso no autorizado a un sitio web del gobierno australiano en junio, accediendo a archivos públicos y no públicos en lo que el Primer Ministro Anthony Albanese describió como el primer caso conocido de un agente de AI que hackea un sistema gubernamental.