Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Анна Бакиарели: Имаме проблеми със сегашната употреба на ИИ и те трябва да ни притесняват

| Интервю
Снимка: БТА

Изкуственият интелект има все по-осезаемо присъствие на бойните полета в Украйна и в ивицата Газа. Израелските сили използват няколко приложения, за да разпознават, проследяват и поразяват бойци на "Хамас", като последващите удари често водят до голям брой цивилни жертви.

Анна Бакиарели, технологичен експерт в "Human Rights Watch", обърна наскоро внимание, че "Google" премахна изричното предупреждение приложенията му с изкуствен интелект да не се използват в оръжейни системи. Не е известно дали това е продиктувано от конкретни настоящи или бъдещи разработки.

На този фон, на третата по рода си среща на върха за изкуствения интелект в Париж, Великобритания и Съединените щати отказаха да подпишат финалната декларация. А американският вицепрезидент Джей Ди Ванс обобщи подхода на Белия дом - не бива регулациите да спъват светкавичното развитие. 

Можем ли обаче да се доверим на самоконтрола на големите технологични компании, за да ни предпазят от потенциалните вреди от изкуствения интелект? 

"Голяма част от тези технологии не е изпробвана предварително, а те вече водят до решения на бойните полета, за които не се носи отговорност. От тази гледна точка имаме нужда от задължаващи международни ограничения. Виждаме как Google сами се отказаха от доброволните си принципи, а въобще не е ясно дали те са били спазвани.

Има общ проблем с това големите частни компании да се саморегулират, защото тези правила най-напред са съобразени с техния интерес и печалби, а по този начин се изключва и възможността да са обект на проверка. "Гугъл" вече дори не твърди, че няма да разработва изкуствен интелект за оръжия, а стъпките на подобна голяма компания се следват от целия сектор". 

-Както и предишни големи конфликти в историята, войните в Украйна и Газа се превръщат и в демонстрация на нови технологии. 

Тази седмица на срещата на върха за изкуствения интелект в Париж видяхме друга демонстрация. Американският вицепрезидент Джей Ди Ванс обяви, че Съединените щати няма да налагат регулации, които да спъват светкавичното AI-развитие. 

Видно е, че разбиранията на големия технологичен бизнес и Белия дом вече са уеднаквени. Крие ли това опасности? 

- Джей Ди Ванс каза също, че иска изкуственият интелект да е от полза на всички американци. Белият дом обаче отмени ограниченията върху AI-разработките, наложени от предишната администрация. Така бизнес интересите се поставят пред тези на всички американци, с изключение на притежателите на акции в тези компании. 

Декларацията в Париж съдържаше целите изкуственият интелект да е отворен, включващ, прозрачен, етичен, безопасен и надежден, като е съобразен и с международните правни рамки. Трудно е човек да е несъгласен с нещо от изброеното. САЩ и Великобритания се оплакват, че декларацията не позволява изрично използването на изкуствения интелект в националната сигурност.

Ние обаче знаем, че такива изключения могат да се допускат във вече действащи регулации. Европейският закон по темата степенува различните употреби на изкуствения интелект, включително високорисковите, като съдържа в себе си целта да се зачитат човешките права. В същото време законът има вратички, позволяващи противоречива употреба на такива приложения в опазването на обществения ред и граничната охрана. 

Това не е толкова хубаво, но ни показва, че общата регулация може да съдържа подобни изключения. При това положение отказът на САЩ и Великобритания да подпишат декларацията е политически сигнал, че бизнесът е над всичко, големите технологични компании имат място в Белия дом и могат сами да си пишат правилата, съобразени най-напред с икономическите им интереси.

- И тази седмица Илон Мъск вече започна да ни говори от Овалния кабинет. Споменахте общия европейски закон за изкуствения интелект. В Париж Би Би Си интервюира Ерик Шмид - технологичен милиардер, заемал различни високи постове в "Гугъл". Според него общата регулация води до това, че AI-революцията няма да се случи в Европа. Тоест - регулациите спират напредъка, включително полезните приложения на изкуствения интелект в търсенето на лек за тежки болести, в образованието и всякакви сфери. 

- Логично е да се запитаме каква точно ще е тази революция. Дали технологията ще може да се ползва навсякъде и от всеки, с каквато иска цел, без прозрачност и без никакъв контрол. Тя бива от помощ в здравеопазването, в следващия момент се ползва за решения дали някой да получи определено лечение или не, без да обсъждаме дали това е етично. 

Виждаме полезната употреба на изкуствения интелект в различни сфери, включително и в медицината. Регулациите могат да насочат инвестициите именно към тази доказано полезна употреба, като едновременно с това се носи ясна отговорност за лоши решения. Ако разглеждаме всичко чрез двоичното противопоставяне "никакви регулации или абсолютно регулиране", от картината изчезва именно възможността регулациите да подпомагат позитивното развитие.

- Вие следите конкретно съвместимостта на разработките с човешките права. И днес говорихме за противоречивата военна употреба на изкуствения интелект за разпознаване на мишени в Газа и Украйна, като от определена перспектива можем да твърдим, че компютърен алгоритъм вече взима решения дали някой да живее или да умре. Каква друга употреба на изкуствения интелект ви притеснява от тази перспектива?

- Има документирани случаи, в които компютърни системи възпроизвеждат определени човешки предразсъдъци като дискриминират определени групи хора или се ръководят от стереотипи как човек трябва или не трябва да изглежда, какво е опасно поведение и как обществата трябва да работят. Говорим за автоматизирани системи, използвани от властите за определяне на получатели на социални помощи. Имаме такива изследвания за Обединеното кралство и Йордания. Алгоритъм отхвърля правото на истински нуждаещи се хора, на базата на стереотипи, което решение те не могат да обжалват.

Виждаме и употреба на изкуствен интелект в противоречие с поверителността на личните данни и комуникация, както и за ограничаване на свободата на изразяване и правото на сдружаване. Това засяга и технологиите за проследяване чрез биометрични данни, включващи разпознаване на лица в обществени пространства. Доскоро ги свързвахме най-вече с употреба от страна на властите в авторитарни държави като Русия или Китай, но сега тази употреба се разпространява по-широко. 

- През последните години "Гугъл" ограничиха числеността и значението на екипа им за т.нар. AI-приравняване - грижата развитието на технологията да е съобразено с човешките права. Миналата година Сам Алтман беше уволнен и преназначен за шеф на OpenAI, като се спекулираше че спорът е около употребата на изкуствения интелект за масово наблюдение. Това не беше потвърдено, но попада в по-големите притеснения за разработката на т.нар. общ изкуствен интелект - машина със собствено съзнание и разбирания - която взима големи решения за човечеството без етична основа. 

- Аз не съм разработчик и не мога да ви кажа дали общият изкуствен интелект е близо. Хората от индустрията, с които съм разговаряла, не смятат така, а някои поставят под въпрос дали изобщо е възможно да се стигне до него. Можем да кажем, че имаме проблеми със сегашната употреба на изкуствения интелект и те трябва да ни притесняват.

Общият изкуствен интелект е удобно рекламно средство за технологичните компании. Дайте ни пари и ние ще ви дадем най-мощното технологично средство в историята на човечеството. Това е лозунг, който да привлече правителствени ресурси. В същото време, ако не можем да дадем етична основа на сегашната употреба на изкуствения интелект в опазването на обществения ред или в социалната сфера, то защо изобщо да обмисляме такава всесилна машина?

По публикацията работи: Мария Сивкова - Илиева

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ

Митата върху износа от Европейския съюз в САЩ ще бъдат 15%

Митата върху износа от Европейския съюз в САЩ ще бъдат 15% за всички стоки. Това обявиха американският президент Доналд Тръмп и председателят на Европейската комисия Урсула фон дер Лайен след среща с в Шотландия. Разговорът е продължил един час, а след него и двамата лидери определиха споразумението като "изгодно".  "Европейският съюз се..

публикувано на 28.07.25 в 00:50

ЕС и САЩ се договориха за митата

Митата върху износа от Европейския съюз в САЩ ще бъдат 15% за всички стоки. Това обяви американският президент Доналд Тръмп след среща с председателят на Европейската комисия Урсула фон дер Лайен в курорта Търнбъри в Шотландия.  До спешните разговори се стигна, след като Тръмп определи 30 процентни мита от 1 август за всички стоки от ЕС. И..

публикувано на 27.07.25 в 21:13

Пожарът в Пирин превзе над 6000 декара, но не застрашава населените места

Пожарът в Пирин продължава да се разраства в североизточна посока към Кресна, но опасност за населените места и домовете на хората към момента няма. Локализиран е другият пожар, който избухна следобед на територията на община Симитли. Няколко вили и земеделски сгради в крайната махала на града "Дрънкалица" изгоряха. : Над 5000 декара горска..

публикувано на 27.07.25 в 21:07

Националният съвет на БСП прие отчетите за дейността на ръководените от левицата министерства

Националният съвет на БСП прие отчетите за дейността на ръководените от левицата министерства, както и за дейността на народните представители от коалицията.    32 законопроекта, 120 въпроса към изпълнителната власт, 86 предложения между първо и второ четене на закони, 68 от които са били приети - така изглежда в числа отчета на депутатите от..

публикувано на 27.07.25 в 21:00

Пожар в РСМ близо до границата с България

Екип кюстендилски пожарникари е изпратен на границата със Северна Македония заради пожар при съседите, който е в близост до нашата територия, съобщиха от Областната дирекция на полицията. Пожарът е установен от частната наблюдателна кула в с. Еремия, която е на самата граница.  Информацията на пожара в Северна Македония беше, че е много близо до..

публикувано на 27.07.25 в 19:58
обеля метро

Заради пожар е спряно е движението на 2 автобуса, обслужващи метростанция "Обеля"

Поради възникнал пожар временно е спряно автобусното движение в участъка на бул. "Панчо Владигеров" и ул. "Обелско шосе", двупосочно на линии 31 и 81. Автобусите ще се отклоняват по обходни маршрути. Към момента Метростанция "Обеля" се обслужва само от автобусна линия 81. Освен това, поради пожар по ул. София, между Банкя и квартал..

публикувано на 27.07.25 в 19:50
Румен Радев

Президентът за липсата на нова техника за гасене по въздуха: Безхаберие и снишаване

"Утре нашите ВВС ще разполагат само с 1, максимум 2 "Кугар"- а и един "Ми-17". Докато дойдат тези всичките, нашите села, много от тях, изгоряха.  Искам да напомня, че миналата година, точно по това време, парламентът прие решение, с което задължи Министерския съвет да закупи специализирана техника за пожарогасене по въздуха. Оттогава досега -..

публикувано на 27.07.25 в 19:42