Дрон убив трьох українців: ним повністю керував штучний інтелект
Росія випробовує у Запоріжжі автономні дрони зі штучним інтелектом, які можуть самостійно обирати цілі. За даними українських військових та експертів, один із таких безпілотників причетний до атаки 6 липня, внаслідок якої загинули троє людей.
Про це пише The New York Times. «Перший Запорізький» переказує матеріал видання.
Російський дрон у Запоріжжі самостійно обрав точну ціль
Молода жінка намагалася врятуватися, але було вже запізно.
Позаминулого місяця в Запоріжжі, на південному сході України, з неба стрімко спікірував невеликий російський дрон, схожий на модель літака. Намагаючись наблизитися до автозаправної станції, він врізався у стіну й вибухнув, розкидавши довкола уламки. Внаслідок атаки загинули 19-річна студентка Тетяна Бубинець та ще двоє людей.
Вони стали одними з тисяч українських цивільних, які загинули внаслідок російських повітряних ударів. Однак обставини їхньої загибелі мали особливо тривожну деталь. За словами експертів із безпілотників, українських військових командирів та фахівців, які досліджували уламки цього дрона й інших апаратів після ударів по місту, безпілотником, що їх убив, керувала експериментальна система штучного інтелекту, а не людина-оператор.
Люди-оператори запрограмували дрон летіти до конкретної автозаправної станції. Однак, наблизившись до неї, він самостійно обрав точну ціль – найімовірніше, резервуари з пропаном. Експерти та військові пояснили, що систему навчали розпізнавати такі резервуари та завдавати по них ударів.
Це саме той розвиток подій, за яким давно стежать у контексті війни в Україні. Він може стати передвісником антиутопічного майбутнього, у якому смертоносні роботи патрулюватимуть небо й самостійно ухвалюватимуть рішення про життя і смерть, перетворюючи цілі на звичайні точки даних.
«Це загроза для всього світу, – сказав полковник Сергій Мінаєв, командир протиповітряної оборони Запоріжжя, – За кілька років ми житимемо наче у фільмі «Термінатор». І це не жарт. Машини самі ухвалюють рішення про завдання ударів».

Як фахівці визначили, що дроном керував штучний інтелект
Аналіз уламків після цього та інших ударів по Запоріжжю показав, що дрони мали на борту мінікомп’ютери, які вільно продає компанія Nvidia. Саме вони ухвалювали рішення щодо вибору цілей, повідомили експерти та військові. Nvidia виробляє більшість чипів, на яких працюють найсучасніші у світі системи штучного інтелекту.
Наявність у дронах модулів Nvidia та відсутність антен наштовхнули командирів української протиповітряної оборони на висновок, що ці апарати керувалися автономною системою штучного інтелекту. Подальше розслідування це підтвердило.
Автономні системи штучного інтелекту можна навчати на тисячах зображень, щоб вони розпізнавали такі категорії, як «річка», «військова вантажівка» або «людина». Дрони, здатні самостійно обирати цілі, використовують камери для їх пошуку й можуть робити це точніше, ніж оператор-людина. Водночас противники такої зброї застерігають: без втручання людини дрони можуть частіше помилятися або порушувати закони ведення війни – наприклад, не відрізняти цивільних від військових.
За словами Катерини Бондар, старшої наукової співробітниці Центру штучного інтелекту Вадхвані при Центрі стратегічних і міжнародних досліджень у Вашингтоні, використання штучного інтелекту для самостійного вибору цілі під час атаки на автозаправну станцію 6 липня може бути першим задокументованим випадком, коли російський дрон із такою системою спричинив загибель цивільних. Вона додала, що модуль Nvidia є «найкращим доказом» того, що Росія експериментує з автономним штучним інтелектом.
Хоча один із радників президента Володимира Зеленського писав у соцмережах, що Росія випробовує системи штучного інтелекту, здатні самостійно обирати цілі, про загибель людей раніше не повідомлялося. Так само раніше не розкривали деталей щодо використаного комп’ютерного модуля Nvidia Jetson Orin.


Чим автономний дрон відрізняється від звичайного
І Росія, і Україна використовували штучний інтелект у різних моделях дронів ще до появи повністю автономних безпілотників. У таких системах ШІ застосовували лише на так званій «останній милі» – фінальному етапі атаки після того, як оператор дистанційно обрав ціль.
Повністю автономний штучний інтелект усуває людину з процесу остаточного вибору цілі.
За словами українських посадовців, чип Nvidia, знайдений після атаки на Запоріжжя, не був зашифрований. Завдяки цьому фахівці змогли побачити зображення місцевості, завантажені в модуль, за якими дрон орієнтувався на візуальні об’єкти та тримав курс. Вони також дослідили програмний код і з’ясували, які саме типи цілей система була навчена розпізнавати та атакувати, зокрема резервуари з пропаном.
Дрони попередніх моделей зазвичай або керуються операторами за допомогою радіозв’язку чи оптоволоконних кабелів, або заздалегідь програмуються на політ за заданими координатами. Оскільки безпілотники почали відігравати дедалі більшу роль на полі бою в Україні, їхні оператори самі стали одними з пріоритетних цілей.
Натомість автономний дрон зі штучним інтелектом не потребує участі оператора й може вражати цілі точніше, ніж боєприпас, запрограмований на задані координати.
За словами представників місцевої протиповітряної оборони, під час випробувань автономних дронів у Запоріжжі Росія націлювала їх, зокрема, на цивільні об’єкти – колонки та резервуари з пропаном на автозаправних станціях, а також на центри комплектування. Чому саме ці об’єкти обрали для випробувань, наразі незрозуміло.
Вадим Кушніков, експерт із безпілотників Харківського авіаційного інституту, зазначив, що дрон, який убив трьох цивільних, був «заздалегідь запрограмованим засобом, навченим у віртуальному середовищі відстежувати конкретні об’єкти».


Чому автономна зброя зі штучним інтелектом викликає суперечки
Традиційне програмне забезпечення працює за покроковими правилами, написаними людиною. Натомість система штучного інтелекту самостійно формує правила, знаходячи закономірності у величезних масивах даних. Цей процес називається машинним навчанням. Завдяки цьому система може реагувати на непередбачувані ситуації. Водночас це означає, що ніхто не може повністю передбачити, як саме вона діятиме.
Правозахисні організації та Міжнародний комітет Червоного Хреста категорично виступають проти використання зброї зі штучним інтелектом без участі людини в процесі ухвалення рішень. Вони наголошують, що автономні системи фактично залишають роботам право тлумачити міжнародне право та визначати, які цілі під час війни є законними.
Водночас деякі експерти вважають, що в майбутньому системи штучного інтелекту, навпаки, мають стати обов’язковою складовою озброєння. На їхню думку, така зброя може бути безпечнішою, оскільки здатна оцінювати ситуацію перед ударом, навіть якщо робить це не завжди безпомилково. Це відрізняє її від некерованих авіабомб або звичайних артилерійських снарядів, які просто влучають у місце падіння, не «бачачи», що саме буде уражено.
Що знайшли в російських дронах після ударів по Запоріжжю
За словами голови обласної військової адміністрації, командувача протиповітряної оборони міста та розрахунку ППО, який чергував того дня, дрон, що завдав смертельного удару, летів у групі приблизно з шести безпілотників. Жоден із них не передавав радіосигналів, а також вони мали інші ознаки, характерні для російських випробувань автономних систем штучного інтелекту, зокрема запускалися хвилею, зазначили посадовці.

За словами українських посадовців, деякі з випробуваних Росією дронів зі штучним інтелектом вибухали під час удару, тоді як інші не детонували й залишалися відносно неушкодженими. Уламки двох таких безпілотників вони показали журналістам The New York Times.
Журналісти сфотографували комп’ютерний модуль Nvidia всередині дронів і надіслали знімки компанії.
У Nvidia підтвердили, що на фотографіях зображений мінікомп’ютер Jetson Orin. Такі модулі коштують лише кілька сотень доларів, і їх уже знаходили в кількох типах російського озброєння.
У заяві компанії йдеться, що цей мінікомп’ютер є споживчим продуктом, який «продається студентам, розробникам і стартапам для широкого спектра корисних застосувань». Nvidia продає такі комп’ютери в багатьох країнах, але не в Росії. Водночас, як зазначили в компанії, їх можна без проблем придбати через посередників.
Україна також випробовувала автономні системи штучного інтелекту
Україна також випробовувала системи штучного інтелекту, здатні самостійно обирати цілі. Михайло Федоров, якого нещодавно звільнили з посади міністра оборони, наприкінці минулого місяця розповів в інтерв’ю The New York Times, що протягом кількох попередніх місяців Україна випробовувала повністю автономну систему штучного інтелекту в окупованому Росією Криму. За його словами, ці пристрої атакували сховища пального та військову техніку, при цьому цивільні не загинули.
Дрони, які використовували під час атаки на Запоріжжя, не мали антен для передавання даних про результати випробувань. Водночас російські війська часто запускають розвідувальні безпілотники, здатні фіксувати наслідки ударів. Також вважається, що в місті діють російські агенти, які передають інформацію про результати завданих ударів.


Сама по собі відсутність антени ще не доводить, що дрон самостійно обирав ціль. Його могли заздалегідь запрограмувати на політ за певним маршрутом за допомогою комп’ютерних алгоритмів, подібних до тих, які десятиліттями використовують у системах автопілотування літаків. Однак такому дрону чип Nvidia був би не потрібен.
За словами українських фахівців із протиповітряної оборони, у травні Росія почала випробувальні польоти дронів «Молнія» зі штучним інтелектом – це серійний безпілотник літакового типу. Ще за кілька місяців до цього російські військові почали випробовувати системи самостійного вибору цілі на іншому безпілотнику літакового типу – V2U. Частина випробувань V2U стосувалася лише наведення на так званій «останній милі».
Як у Запоріжжі захищаються від дронів
У розмовах із журналістами деякі жителі Запоріжжя, яке розташоване приблизно за 14 кілометрів від лінії фронту, зізнавалися, що сама думка про апарати, які кружляють над містом і самостійно ухвалюють рішення про вбивство, викликає в них жах. Водночас українські міста вже роками зазнають настільки інтенсивних обстрілів, що навіть менш технологічні дрони давно змінили повсякденне життя людей.
Одним зі способів протидії дроновій загрозі стали дрони-перехоплювачі, якими поки що керують люди – чоловіки й жінки, що стали місцевими героями. Інший засіб захисту – антидронові сітки, якими накрили близько 386 кілометрів доріг у Запоріжжі та його околицях.

Ще один спосіб захисту – маскування. Наприклад, навколо резервуарів із пропаном на автозаправних станціях під різними кутами встановлюють пластикові полотнища, намагаючись таким чином ввести в оману системи розпізнавання зображень на основі штучного інтелекту.
За кілька хвилин до того, як 6 липня дрон із вибухівкою стрімко полетів у бік автозаправної станції, група людей, шукаючи укриття, притиснулася до стіни сусіднього житлового будинку. Вони вже чули вибухи, адже дрони атакували хвилями.
Працівниця автозаправної станції Оксана Іщенко стояла поруч із Тетяною Бубинець.
«Вона плакала від страху», – згадує Іщенко.
Потім хтось із групи почав кричати: «Літак! Літак!», – розповіла Іщенко. У їхній бік летів дрон. Тетяна Бубинець та ще кілька людей кинулися тікати, розбігаючись парковкою в різні боки. Дрон не зміг облетіти житловий будинок і вибухнув, так і не діставшись своєї цілі.
Тетяна Бубинець, яка навчалася на бухгалтерському обліку в Запорізькому національному університеті, лежала нерухомо на асфальті, з носа в неї текла кров. У лікарні констатували її смерть, розповіла одна з її викладачок Тетяна Меліхова. Ще двоє загиблих – 41-річний Олексій Свірін та 48-річний Роман Карпій – пізніше померли від отриманих поранень.
«Вони відпрацьовують цю технологію», – сказав про росіян командир протиповітряної оборони міста полковник Мінаєв. За його словами, штучний інтелект уже працює добре, але поки що не ідеально. «Вони шукають помилки й будуть їх виправляти».

Читайте також:
На дні знищеного Каховського моря виріс величезний ліс: журналісти показали, як на Запоріжжі відроджується Великий Луг
Oтримуйте нoвини швидше з дoпoмoгoю нaшoгo Telegram-кaнaлa: https://t.me/onenews_zp
Підписуйтесь нa «Перший Зaпoрізький» в Instagram!
