Ефирни телефони: 02 963 56 50 и 02 963 56 80
Размер на шрифта
Българско национално радио © 2024 Всички права са запазени

Проф. Преслав Наков: Силата на фалшивите новини е поради слабостта на хората

| Интервю
Проф. Преслав Наков
Снимка: Виктория Вучева

Световнопризнатият български учен в областта на изкуствения интелект проф. д-р Преслав Наков беше основен лектор на форума "Up to GATE. Technology, Big Data & Beyond. 5 Years of Innovation”.

Международното събитие събра в София учени и лидери в индустрията от цял свят, които дискутираха горещите теми, свързани с интелигентни решения чрез съвременните технологии на важни за обществото проблеми  в направленията цифрово здравеопазване, градове на бъдещето, интелигентно правителство и умна индустрия. Важен акцент по време на форума беше ролята на изкуствения интелект (ИИ) в откриването и борбата с дезинформацията, повишаването на медийната грамотност и насърчаването на по-безопасна онлайн среда.

  • Проф. Преслав Наков е познат като създателя на изкуствен интелект  – „ловец“ на фалшиви новини, при това преди още те да бъдат написани. Той е ръководител на катедра „Обработка на естествен език“ в университета за изкуствен интелект „Мохамед бин Зайед“ (MBZUAI) в ОАЕ – първият в света университет за ИИ. Световен лидер в областта на фалшивите новини и фактологията, той е част от основния екип, разработил Jais - най-добрият в света голям езиков модел с отворен код, ориентиран към арабския език, Nanda - най-добрия в света модел на хинди, и LLM360, първият наистина отворен голям езиков модел.

По време на участието си във форума проф. Преслав Наков акцентира върху предизвикателствата, свързани с фактологията на големите езикови модели  и борбата с дезинформацията и най-новите изследвания, върху които работи.

"Напоследък се занимавам с построяване на големи езикови модели и работя и в намаляването на халюцинациите – разказа ученият пред БНР-Радио София. – Фалшивите новини са тук. Ние имаме няколко системи, които са готови за новата ситуация с големите езикови модели. Един от е Opened Fact Check – средство за проверка на фактологичността на това, което е генерирал големият езиков модел и не само. Можем да вземем произволен текст, да го сложим, той се декомпозира на прости твърдения, които едно по едно се проверяват. Интересното всъщност е, че имаме и не само проверка, но и коригиране в случай, че твърдението не е вярно. Имаме и обяснение защо не е вярно, разполагаме с информацията, на базата, на която е взето това решение."

Проф. Наков изтъкна, че сред другите нови и важни проблеми е проверката дали даден текст е потенциално генериран от машина. Това засяга и образованието, и на науката, и други сфери.

Големите езикови модели имат огромно значение. Те могат да се обучават на много малко примери, включително без примери, обясни още специалистът.
В момента изследванията са насочени към различни аспекти, включително те да бъдат по-фактологични.

"На този етап изкуственият интелект не е на това ниво, което да ни плаши. Но трябва да вземем мерки така, че той да бъде сигурен. Това е нещо, за което трябва да се замислим от самото начало. Има много различни начини да се заобиколят тези защити, но това по някакъв начин е подобно на сигурността в киберпространството. По същия начин искаме да обезопасим тези големи езикови модели и системите, базирани на тях. Има много регулации, свързани с това", отбеляза още проф. Преслав Наков.

По думите му, науката в България отдавна е станала европейска и световна. Доказва го и екипът на GATE с работата си.

Чуйте цялото интервю на Катя Василева с учения.

По публикацията работи: Георги Нейков

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Бъдете наши приятели във Facebook, следвайте ни и в Instagram. За да научавате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ

Бъдни вечер със семейството на Весела Бабинова и Влади Зомбори

Весела Бабинова и Владимир Зомбори са едно от най-обичаните от българската публика артистични семейства. Любимо ястие на актрисата в навечерието на Коледа са сушените чушки с боб. За Зомбори обаче нещата не стоят така "постно". "Той, човекът, винаги е обичал да си хапва месце. Независимо от никой празник на тази планета Земя. Това може да е много..

публикувано на 24.12.24 в 19:05
Независимо от времената, Бъдни вечер продължава да събира семейството

Коледари ни посещават след записване, поздравите ни най-често са дигитални

Дните по Коледа като че останаха най-семейните празници . На Бъдни вечер, независимо от своя ритъм на работа и живот, каквото и да диктува дигиталната трансформация, всеки иска и се събира с най-близките си, със семейството . Раждането на новото Слънце, на младия Бог Исус Христос е хубав повод да се съберем, да се срещнем около постната трапеза..

публикувано на 24.12.24 в 17:05
Доц. Тодор Ялъмов

Конкурс за младежки стартъп насърчава предприемачи, намира им партньори и инвеститори

Националният конкурс "Най-добър младежки стартъп в България 2025" е отворен за кандидатстване. Това ще бъде четвъртото поред издание на състезанието, организирано от Софийския университет "Св. Климент Охридски" (СУ) съвместно с Фонд на фондовете (ФнФ) с мисията да вдъхнови и подкрепи младите предприемачи в България като предостави платформа за..

публикувано на 24.12.24 в 15:45
Дядо Коледа

Защо според децата празнуваме Коледа?

Защо празнуваме Коледа? Откъде идва Добрият старец? Защо на Рождество Христово си подаряваме подаръци?  На тези въпроси отговарят децата от столичната 29-а детска градина "Слънце". Чуйте ги.

публикувано на 24.12.24 в 15:23
Снимки: transparency.bg

По-големи общини използват предимствата си за по-добро управление и прозрачност

Асоциация "Прозрачност без граници" ( АПБГ) публикува резултатите от Индекса на местната система за почтеност за 2024 г., които подчертават 10-годишен напредък в прозрачността и отчетността на местното управление в България. В началото на прилагане на показателя - през 2015 г., общият индекс е бил 3,14 точки, докато през 2024 г. достига..

публикувано на 24.12.24 в 15:10

Българското научно достижение за 2024 г. - BgGPT

Въпреки неголемия бюджет, който България отпуска за наука, страната ни се развива успешно в тази сфера. В Българската академия на науките работят учени в 50 института. Страната ни разполага и около 50 висши учебни заведения, каза пред Радио София главният редактор на сп. "Българска наука“ Петър Теодосиев. "Всичко това дава капка по капка..

публикувано на 24.12.24 в 12:23

6 момичета и 4 момчета се родиха по инвитро програмата на Столичната община

Общо 10 бебета се родиха през 2024 г. по донорската програма на Столичната община за подпомагане на семейства с репродуктивни проблеми. От тях четири са момчета и шест - момичета, а две двойки са близнаци , съобщиха от Общината. Десетте деца са родени в периода ноември 2023 г. - декември 2024 г. Одобрени са били 30 двойки. Предстои да..

публикувано на 24.12.24 в 11:31