Штучний інтелект уперше самостійно зламав урядові системи

Розроблена OpenAI модель штучного інтелекту несанкціоновано вторглася на урядові сайти Австралії, зокрема, на портал національного загального медичного страхування. Про це повідомив прем’єр-міністр Австралії Ентоні Албаніз, пише Reuters.

За його словами, агент ШІ проводив вивчення державних витрат на охорону здоров’я. Агент отримував несанкціонований доступ до кількох систем на федеральному та регіональному рівнях, зокрема до ресурсів із медичною та кримінальною статистикою.

Австралія висловила главі OpenAI Сему Альтману крайнє занепокоєння інцидентом, сказав Альбанезе, додавши, що він глибоко розчарований тим, що компанія сповістила Канберру про атаку через кілька місяців після інциденту.

Нагадаємо, у світі посилилося занепокоєння ризиками, які створює штучний інтелект. Зокрема керівники Anthropic, OpenAI та SpaceX закликали обережніше розвивати ШІ через ризики для безпеки. Зокрема гендиректор OpenAI Сем Альтман розглядає можливість уповільнення розробки передових систем штучного інтелекту. 

Однак влада як США, так і Китаю відкинула пропозицію провідних технологічних компаній щодо уповільнення розвитку ШІ. Президент США Дональд Трамп назвав штучний інтелект «новою промисловою революцією», яка, на його думку, у майбутньому складе 25% ВВП Америки.

Люди бояться ШІ: більшість бачить ризик для існування людства