Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Технологичните гиганти изпускат контрола и не могат да предвидят всички последици

Футуролог: Метафората за черна кутия в ИИ е жива. Разработчици докладват за критични моменти

Политиците не са наясно с рисковете от ИИ, а технологичните гиганти се застраховат, като искат регулации, смята Мариана Тодорова

| Интервю
Мариана Тодорова
Снимка: Иван Русланов

Шансовете "Скайнет" – съзнателната компютърна мрежа от филма "Терминатор", която унищожава света с човешките оръжия, да се "събуди", са 50:50, смята футурологът Мариана Тодорова от Института по философия и социология към БАН.

В интервю за БНР Тодорова коментира последните разговори в американския Конгрес с ръководителите на големите технологични компании за контрола върху изкуствения интелект, както и казуса с  намесата на Илон Мъск в някои от политическите дела около войната в Украйна.

"Не само Илон Мъск инициира среща в Конгреса и Сената. Сам Алтман, с популяризацията на ChatGPT и OpenAI инициира редица срещи с водещи политици имаше изслушване в Конгреса, което беше доста критично към него. След това започна нещо като политическо турне и се срещна с президенти и министър-председатели от различни страни по целия свят."

Самите технологични лидери осъзнаха, че политиците не разбират каква технология е изкуственият интелект, подчерта Тодорова. Тя споделя мнението, че политиците не са наясно с рисковете.

"Затова и Сам Алтман, и Илон Мъск, осъзнавайки, че самите те изпускат контрола и не биха могли да предвидят всички последици, защото самият изкуствен интелект, проявен в тези големи генеративни езикови модели, е като черна кутия. Иззеха това лидерство, започнаха да търсят мнението и на политици, и на неправителствения сектор и искат да предизвикат глобален дебат."

Досега собствениците на подобни компании винаги са се интересували от ефективността и печалбата, а сега те са тези, които искат регулации, отбеляза Мариана Тодорова. По думите ѝ това е така, защото самите те не знаят "как би възникнало следващото ниво на ИИ, който е конкурентен на нас, не могат да предвидят този процес".

"Следващият голям проблем е изравняването с човешките ценности. Човечеството не е намерило механизъм да изгради някаква глобална етика и да се разбира, затова и все още войните са ключово средство за решаване на конфликти."

Последните езикови модели са изградени от невронни мрежи, конструирани подобно на нашия мозък и съдържат стотици пластове, а самите разработчици докладват, че виждат какво се случва само в първите три пласта, изтъкна още Тодорова.

"Тоест, когато метафората за черна кутия в ИИ е наистина жива и обяснява картината, частично ние вече знаем, че не можем да упражняваме контрол, те разчитат само на това да има консенсус за регулации, така че при евентуален проблем да не носят само те вината. В случая те се застраховат и печалбата не е на първо място."

Разработчиците докладват за критични моменти, уточни Мариана Тодорова.

"Също така е правил опит ChatGPT4 да достигне до критична инфраструктура. Всяка връзка с физическия свят – ядрена централа или дрон, която не е под надзора на човека, е възможно потенциално голямо бедствие или планетарна катастрофа. Още догодина ChatGPT 4 и другите езикови модели ще заместят човешките тролове и ще бъдат произведени стотици хиляди фалшиви новини. Наскоро правих експеримент, питайки един от тези езикови модели за историята на София, и той изхалюцинира – каза, че София е столица от 9. век."  

Сред рисковете, които футурологът открои, са блокиране на градове, спиране на електричество и други подобни, които биха били равносилни на атентат.

ИИ ще бъде глобално явление и когато една страна има дадено достижение, другите ще трябва да я догонват, за да не губят геополитически и геостратегически предимства, коментира Мариана Тодорова в предаването "Хоризонт до обед".

Технологичните гиганти ще имат все по-голямо влияние. Киберсигурността ще бъде по-важна от реалната сигурност, а войните ще бъдат все повече кибервойни, прогнозира тя.

Цялото интервю слушайте в звуковия файл. 

По публикацията работи: Яна Боянова

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Пожар край Костинброд

Какви са щетите от пожарите в селата Безден и Богьовци?

Заместник-кметът на Община Костинброд и ръководител на доброволно формирование “Феникс” Александър Ненов сподели, че за момента ситуацията на територията на общината не е променена.  Гл. комисар Джартов: Няма опасност за населените места в близост до пожара край Опицвет (обновена) От вторник сутринта в селата Безден и Богьовци обикаля..

публикувано на 23.07.25 в 12:02

Безплатни тестове за хепатит в цялата страна

28 юли е Световният ден за борба с хепатита и по този повод Министерството на здравеопазването от началото на седмицата започна информационна кампания чрез регионалните здравни инспекции в цялата страна за ползите от тестването и риска от хепатита. От началото на годината: 8 болни от хепатит в Ямболско и един смъртен случай "Това е..

публикувано на 23.07.25 в 11:18
Диана Георгиева

Диана Георгиева: На специалистите по здравни грижи се гледа като на втора ръка хора

"Фактът, че се приеха три от законопроектите с идеята да се намери общо решение за откриване на начин да се постигнат въпросните заплати, които се искат от нас и от младите лекари, е все пак един добър знак , че има идея как да бъде постигнато това решение". Това заяви пред БНР Диана Георгиева , председател на Българската асоциация на..

публикувано на 23.07.25 в 10:06
Борис Митов

Борис Митов: ВКС се отклонява от собствената си практика, за да угоди на интереса на един висш магистрат

ВКС окончателно осъди сайта "Медиапул" и журналиста Борис Митов  за клевети и обиди спрямо бившия председател на Софийския градски съд (СГС) и настоящ апелативен  съдия Светлин Михайлов . "Става въпрос за четири мои статии, на които аз съм автор, докато работя в изданието "Медиапул", февруари 2018 г. Тогава във Висшия съдебен съвет тече..

публикувано на 22.07.25 в 15:16
Адвокат Велислав Величков

Велислав Величков: Не беше нужно да се стига до щурм на вратата на КПК

"Поглеждайки назад през времето през 2022, 2020, 2013 година много сгради са били заключени за редови граждани в работно време, от страх да не влязат разгневени граждани ". Това обясни пред БНР адвокат Велислав Величков във връзка с опита - граждани от сдружение БОЕЦ да влязат в сградата на Комисията за противодействие на корупцията (КПК) в..

публикувано на 22.07.25 в 13:53
Алая Ловик

Алая Ловик е организатор на фестивала Х Fest Bulgaria 2025 в село Люти брод

Врачанското село Люти брод от 25 до 27 юли ще бъде домакин на Х Fest Bulgaria 2025 .  Пред БНР Алая Ловик, организатор на фестивала Х Fest Bulgaria 2025, об=ясни колко значимо за България и света е село Люти брод : "Трябва да помним, че село Люти брод винаги е било кръстопът, място, където са се събирали хора от различни краища . Те са..

публикувано на 22.07.25 в 12:27
Росен Белишки

Росен Белишки, МВР: Лятото е рисков сезон за извършване на домови кражби

Лятото е рисков сезон за извършване на домови кражби . От МВР обясняват, че често през летните месеци на годината част от криминалния контингент се мести от големите градове в морските ни курорти .  В същото време от Националната полиция апелират към хората да не дават информация, макар и неволна за това какво държат в домовете си. По този начин..

публикувано на 22.07.25 в 11:57