Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Технологичните гиганти изпускат контрола и не могат да предвидят всички последици

Футуролог: Метафората за черна кутия в ИИ е жива. Разработчици докладват за критични моменти

Политиците не са наясно с рисковете от ИИ, а технологичните гиганти се застраховат, като искат регулации, смята Мариана Тодорова

| Интервю
Мариана Тодорова
Снимка: Иван Русланов

Шансовете "Скайнет" – съзнателната компютърна мрежа от филма "Терминатор", която унищожава света с човешките оръжия, да се "събуди", са 50:50, смята футурологът Мариана Тодорова от Института по философия и социология към БАН.

В интервю за БНР Тодорова коментира последните разговори в американския Конгрес с ръководителите на големите технологични компании за контрола върху изкуствения интелект, както и казуса с  намесата на Илон Мъск в някои от политическите дела около войната в Украйна.

"Не само Илон Мъск инициира среща в Конгреса и Сената. Сам Алтман, с популяризацията на ChatGPT и OpenAI инициира редица срещи с водещи политици имаше изслушване в Конгреса, което беше доста критично към него. След това започна нещо като политическо турне и се срещна с президенти и министър-председатели от различни страни по целия свят."

Самите технологични лидери осъзнаха, че политиците не разбират каква технология е изкуственият интелект, подчерта Тодорова. Тя споделя мнението, че политиците не са наясно с рисковете.

"Затова и Сам Алтман, и Илон Мъск, осъзнавайки, че самите те изпускат контрола и не биха могли да предвидят всички последици, защото самият изкуствен интелект, проявен в тези големи генеративни езикови модели, е като черна кутия. Иззеха това лидерство, започнаха да търсят мнението и на политици, и на неправителствения сектор и искат да предизвикат глобален дебат."

Досега собствениците на подобни компании винаги са се интересували от ефективността и печалбата, а сега те са тези, които искат регулации, отбеляза Мариана Тодорова. По думите ѝ това е така, защото самите те не знаят "как би възникнало следващото ниво на ИИ, който е конкурентен на нас, не могат да предвидят този процес".

"Следващият голям проблем е изравняването с човешките ценности. Човечеството не е намерило механизъм да изгради някаква глобална етика и да се разбира, затова и все още войните са ключово средство за решаване на конфликти."

Последните езикови модели са изградени от невронни мрежи, конструирани подобно на нашия мозък и съдържат стотици пластове, а самите разработчици докладват, че виждат какво се случва само в първите три пласта, изтъкна още Тодорова.

"Тоест, когато метафората за черна кутия в ИИ е наистина жива и обяснява картината, частично ние вече знаем, че не можем да упражняваме контрол, те разчитат само на това да има консенсус за регулации, така че при евентуален проблем да не носят само те вината. В случая те се застраховат и печалбата не е на първо място."

Разработчиците докладват за критични моменти, уточни Мариана Тодорова.

"Също така е правил опит ChatGPT4 да достигне до критична инфраструктура. Всяка връзка с физическия свят – ядрена централа или дрон, която не е под надзора на човека, е възможно потенциално голямо бедствие или планетарна катастрофа. Още догодина ChatGPT 4 и другите езикови модели ще заместят човешките тролове и ще бъдат произведени стотици хиляди фалшиви новини. Наскоро правих експеримент, питайки един от тези езикови модели за историята на София, и той изхалюцинира – каза, че София е столица от 9. век."  

Сред рисковете, които футурологът открои, са блокиране на градове, спиране на електричество и други подобни, които биха били равносилни на атентат.

ИИ ще бъде глобално явление и когато една страна има дадено достижение, другите ще трябва да я догонват, за да не губят геополитически и геостратегически предимства, коментира Мариана Тодорова в предаването "Хоризонт до обед".

Технологичните гиганти ще имат все по-голямо влияние. Киберсигурността ще бъде по-важна от реалната сигурност, а войните ще бъдат все повече кибервойни, прогнозира тя.

Цялото интервю слушайте в звуковия файл. 

По публикацията работи: Яна Боянова

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Проф. д-р на науките Стойко Стойков

Проф. Стойко Стойков: Плагиатството придоби широк мащаб в последните 15 години

"Тогава, когато една държава се развива като модерна държава, в нейната основа е заложено образованието , а един от основните приоритети в това образование, е неговото качество ". Това отбеляза пред БНР проф. д-р на науките Стойко Стойков , инженер и полковник от запаса: "За съжаление, точно плагиатството, което придоби изключително широк..

публикувано на 24.07.25 в 15:33
Протест в Тел Авив, Ирзаел, срещу войната в Палестина и срещу смъртта на деца

Ибрахим Халед: Израел трябва да се оттегли от окупираните територии

" Много е трудна връзката с близките ми в Газа, защото нямат ток и ако успеят да си заредят телефоните, могат на седмица около 20 минути да говорят, колкото да се чуем. Положението е много тежко. Хора падат по улиците , много е тежко наистина. Даже аз имам едно видео, което показва журналист на "Ал Джазира", докато снима на живо, хора падат след..

публикувано на 24.07.25 в 14:44

Ивет Добромирова: ПП спомогнаха за това институциите да бъдат превърнати в репресивен орган

"Продължаваме промяната" имат пълно основание да твърдят, че институциите по някакъв начин злоупотребяват по отношение на тях с правомощията си ". Това коментира пред БНР Ивет Добромирова , журналист, PR експерт: " Проблемът е, че те са част от този проблем . Те спомогнаха за това институциите да бъдат превърнати в репресивен орган и сега се..

публикувано на 24.07.25 в 13:25
Весела Райчинова

Весела Райчинова: "Българска душа на святата земя" не е религиозен фестивал

"Творчески терминал България - Израел" е с четвърто издание сега и е обратна връзка на Международния фестивал на българското изкуство или българските изкуства "Българска душа на святата земя" . Това каза пред БНР Весела Райчинова , кореспондент на БНР в Израел: " Това не е религиозен фестивал . Това е фестивал, който беше създаден под..

публикувано на 24.07.25 в 11:39
Светлин Тачев

Светлин Тачев: Правителството е стабилно, БСП и ИТН не искат предсрочни избори

"Смяната на противопоставянето от Изток-Запад на статукво-промяна дава възможност за някакъв опит за сближаване, за синхронизация, но в никакъв случай не и на някакви директни общи действия на тези политически сили, защото там различията са прекалено големи, особено между "Продължаваме промяната" - "Демократична България" и "Възраждане" . Това заяви..

публикувано на 24.07.25 в 10:08
Община Плевен

Спор между Община Плевен и местна фирма за неизплатена сума от 70 000 лв.

Плевенска фирма изнесе данни за неплатени суми от Община Плевен  по договор като подизпълнител на "Паркстрой“ . Каква е причината за тази ситуация след твърдението, че Общината няма финансови проблеми? Какво се случва с оранжерията и закупената техника на "Паркстрой“, след като управителят беше освободен от Общинския съвет, но заведе съдебни дела и..

публикувано на 23.07.25 в 15:02
Даниел Генков

Даниел Генков: Самоубийството е израз на екзистенциална субективна криза у личността

" Самоубийството може да бъде израз на много неща , но като че ли на първо място бих могъл да кажа, че самоубойството е израз на екзистенциална субективна криза у личността ". Това обясни пред БНР Даниел Генков , криминален психолог: "Тогава, когато индивидът е изправен пред непреодолима обективна или пък субективно преживяна ситуация, която..

публикувано на 23.07.25 в 13:40