Размер на шрифта
Българско национално радио © 2024 Всички права са запазени

Предлагат глобален план за отговорно използване на ИИ във военната сфера

| Репортаж
Снимка: БТА

План за действие за управление на отговорната употреба на изкуствен интелект подкрепиха повечето държави на среща на върха в южнокорейската столица Сеул по време на среща за употреба на изкуствения интелект във военната сфера, проведена в Сеул, Южна Корея. България е сред държавите, подкрепящи плана за действие.

Документът отчита, че приложенията с ИИ могат да представляват както предвидими, така и непредвидими рискове в различни аспекти на военната област. Подчертава се необходимостта от предотвратяване на използването на Al технологии за принос към разпространението на оръжия за масово унищожение. Всички способности във военната сфера трябва да се прилагат в синхрон с националното и международното право. Хората остават отговорни за тяхното използване, а ефектите от приложенията на ИИ във военната област, отговорността и отчетността никога не могат да бъдат прехвърлени на машини. Надеждността на Al-приложенията трябва да бъде гарантирана чрез подходящи предпазни мерки за намаляване на рисковете. Следва да се поддържа подходящо човешко участие в разработването, внедряването и използването на Al във военната област. Затова в документа се настоява приложенията с ИИ да бъдат разработени, разгърнати и използвани в съответствие с международното право, включително, ако е приложимо, да бъдат съобразени с Хартата на ООН за правата на човека. Изтъква се нуждата от национални стратегии, принципи, стандарти и норми, политики, рамки и законодателство.

"Иновациите в тази област се случват в частния сектор. В допълнение към тези в областта на изкуствения интелект, мисля, че има няколко елемента и това не е изчерпателен списък, но държавите може да пожелаят да се разгледа. Те включват управление на данните, защита на данните и познаване на ИИ. Във военния сектор е много важно да се обмисли как се събират данните. Също така въпроси, свързани с управлението на технологии, които имат двойна употреба. Държавните играчи може да помислят за ограничения, забрани и разпоредби, по-специално как е интегриран ИИ към различни оръжейни системи. Един стандартен въпрос – искате ли изкуствен интелект в системите за ядрено командване и контрол? Моят личен отговор - вероятно не", коментира Изуми Накамицу, заместник-генерален секретар на ООН по въпросите на разоръжаването.

Компаниите изграждат политики със защити, твърди Майк Бейлър, който отговаря за иновациите в "Локхийд Мартин". Компанията ще достави за България изтребители Ф-16.

"Ние твърдо вярваме, че се нуждаем от национални и от международни стандарти за управление на ИИ. От гледна точка на индустрията, ние имаме огромна роля, за да гарантираме, че изграждаме отговорни технологии за изкуствен интелект, които да използваме в нашите продукти и услуги както вътрешно в корпорациите, така и от страна на войника. В нашата корпорация се заехме да изградим, ние го нарекохме способност за операции на машинно обучение. Това го направихме, за да сме в синхрон с изискванията на Министерството на отбраната на Съединените щати. И петте им насоки - отговорно, управляемо, проследимо, справедливо и надеждно използване на ИИ. Ние инвестираме и се опитваме да задвижим нещата напред. На национално ниво си партнираме с организация, наречена Nest - това е Националният институт за стандарти и технологии към Белия дом, който наскоро издаде регулации за довереното използване на изкуствения интелект.  Имаме желание да правим подобни неща на международно ниво. Има много неща, които можем да предложим - насоки за управление на ИИ биха били чудесно начало. Процесът по изграждането на тези регулации трябва да се случва леко", изтъква Бейлър.

Хората от бизнеса обаче са реалисти. "Знаем от минал опит, че при всяка технология положителната употреба невинаги е това, което ще се случи", предупреждава Ейми Хоган-Бърни, която в "Майкрософт" отговаря за отдела, занимаващ се с киберсигурност. Там работят адвокати, стратези по сигурността, следователи, инженери и анализатори.

Трябва да има защита на данните, които обучават модела, необходима е защита на самия модел и на приложенията на тези модели, обяснява Ейми Хоган-Бърни.

"В момента в "Microsoft" проследяваме 300 различни групи за активност на заплахи. Те са между актьори от националната държава и киберпрестъпници. В хода на проследяването на тези 300 "актьора" виждаме как те използват възможностите на ИИ. Миналия февруари публикувахме блог, в който разгледахме трима или четирима различни национални държавни актьори: от Русия, от Китай, от Северна Корея - и говорихме за това как виждаме тези актьори да използват големи езикови модели, как са използвали тази технология. И бяхме много категорични. Първо, ако ги видим да използват тези ИИ технологии на нашите собствени системи, ще ги изключим. Второ, ако използват други системи, ние проследяваме тези заплахи и уведомяваме другата компания, независимо дали е Open AI, Google или някой друг. Ясно казахме и че ще информираме правителствата за тези употреби, ще бъдем прозрачни за това и ще продължим да ги изясняваме."

"Държавите рядко действат с предпазни мерки. Те винаги поправят щетите си по-късно", изразява мнение Дениз Гарсия, професор в американския Североизточен университет. Като част от факултета по експериментална роботика и автор на книга, посветена на военното съревнование с ИИ, тя дава редица примери в обратната посока.

"Още през 1987-ма предприехме договореност през 2067 г. да се стигне до възстановяването на озоновия слой. Дори това да е дълъг период, договорка за това преди 37 години беше постигната. Можем да приложим същата гъвкавост, предпазни мерки, научни оценки и съпричастността на научната общност към това, с което разполагаме. Другият пример бяха договорите за Антарктика, които защитават последните недокоснати от човека места в света. Без претенции за юрисдикция, без въоръжение - бяха също превантивни договори, предпазни мерки. Договорите за разоръжаване. В книгата имам 25 договора само за разоръжаване и контрол на въоръженията. И ако вземем няколко договора, договорите за противопехотните мини и касетъчните боеприпаси, този договорен процес повиши нивото на амбиция и включи гражданското общество. Създадохме концепция, наречена глобално общностно право - нова област на международното право, която наистина е за това, че никой не може да претендира за юрисдикция, не трябва да има въоръжение и споделянето на ползите трябва да е налице. С други думи цялото човечество трябва да има полза от глобално общностно право. Можем ли тогава да считаме ИИ за глобално общностно право?"

Въпросите остават за следващите дискусии. По време на форума беше отчетено, че планът за действие за управление на отговорната употреба на изкуствен интелект във военната сфера е ориентиран към действия. Самият текст обаче не е правно обвързващ за съгласилите се държави.

По публикацията работи: Яна Боянова

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Росен Миленов в студиото на БНР.

Арестуваха Росен Миленов от новообявената "Гражданска инициатива за непризнаване на изборните резултати за 51-во Народно събрание"

Полицията в София е арестувала Росен Миленов от новообявената "Гражданска инициатива за непризнаване на изборните резултати за 51-во Народно събрание". Гражданска инициатива поиска касиране на вота за 51-вото НС Миленов е задържан с мотива, че е отправял заплахи за безредици в София утре по време на откриването на новия парламент...

публикувано на 10.11.24 в 17:13

ПП-ДБ решават дали ще имат кандидат за председател на 51-вото НС и кой ще е той

Тази вечер се провежда заседание на парламентарната група на "Продължаваме промяната - Демократична България".  На него се очаква да бъде взето окончателно решение дали коалицията ще издигне своя номинация за председател на 51-вото НС и коя ще е тя. Денков: С тази комбинация - ГЕРБ, опакован с Пеевски, няма как да работим До този момент от..

публикувано на 10.11.24 в 17:05
Д-р Владислав Иванов

Ендокринолог стана лекар на годината за област Монтана

Ендокринолог стана лекар на годината за област Монтана - това е д-р Владислав Иванов, който работи в болницата в Лом. Регионалният  лекарски съюз в Монтана връчи наградата "Лекар на годината". За особени заслуги към хуманната професия председателят на колегията д-р Владимир Велков награди д-р Владислав Иванов, ендокринолог от болницата в Лом:..

публикувано на 10.11.24 в 16:55
Доц. Наталия Киселова

Доц. Наталия Киселова - предложението на "БСП - Обединена левица" за председател на НС

Доцент Наталия Киселова ще бъде номинирана за председател на 51-вия парламент от парламентарната група на "БСП - Обединена левица". Това решиха на днешното си заседание членовете на Националния съвет на социалистите. Новината още не е потвърдена официално от пресцентъра на БСП.  Националният съвет на БСП се събира на заседание БСП обсъжда..

публикувано на 10.11.24 в 16:45
Дмитрий Песков

От Кремъл заявиха, че виждат "положителни сигнали" в позицията на Тръмп по отношение на Украйна

Русия и Украйна се атакуваха взаимно с дронове през изминалата нощ. Киев изстреля по Москва 34 безпилотни летателни апарати, а Москва изпрати към Украйна 145 дрона. Междувременно от Кремъл заявиха, че виждат "положителни сигнали" в позицията на новоизбрания президент на САЩ Доналд Тръмп по отношение на Украйна. Съветник на Тръмп: Фокусът на..

публикувано на 10.11.24 в 16:07

7 протестни прояви в София в деня, в който започва работа новото Народно събрание

Кметът на София  Васил Терзиев е провел работна среща със СДВР във връзка с осигуряване на обществения ред и сигурност по повод свикването на 51-вото Народно събрание на 11 ноември 2024 г, съобщават от Столичната община (СО). На срещата са присъствали представители на Столичната дирекция на вътрешните работи, на дирекциите "Сигурност", "Аварийна помощ..

публикувано на 10.11.24 в 16:01

Д-р Димитър Цветков: Процентът генетични аномалии на ембрионите е най-нисък при жените между 25 и 35 години

Акушер-гинеколози съветват жените до 35-годишна възраст, които не успяват да забременеят в продължение на една година, да търсят помощ от специалист по репродуктивна медицина. След навършване на въпросната възраст се увеличава рискът от раждане на деца с генетични аномалии, посочват лекари по повод Европейската седмица на фертилността.  Една пета..

публикувано на 10.11.24 в 15:46