Стотици публични личности призовават да се забрани създаването на изкуствен суперинтелект

Стотици публични личности, сред които учени – носители на Нобелова награда, политически фигури, бизнесмени, известни личности, подписаха призив за забрана за разработване на компютърен суперинтелект – все още недостижим етап на изкуствен интелект, който според тях един ден може да представлява заплаха за човечеството. Те предлагат "забрана за развитието на свръхинтелигентност", докато не се постигне, както "широк научен консенсус, че това ще се извършва безопасно и контролируемо", съобщава NBC News. 

Призивът вече е събрал над 800 подписа, сред които на носителят на Нобелова награда за физика Джефри Хинтън, на бившият съветник на Тръмп в Белия дом Стив Банън, на британският принц Хари и съпругата му Меган Маркъл, на технологични знаменитости като Ричард Брансън и съоснователят на Apple Стив Возняк.

Част от учените смятат, че системите с изкуствен интелект се развиват достатъчно бързо и скоро ще демонстрират това, което е известно като общ изкуствен интелект - способността да се изпълняват интелектуални задачи по начина, по който го прави човек. Но посочват, че това, което може да последва е суперинтелект, при който моделите с изкуствен интелект се представят по-добре дори от най-опитните хора. Според единия от създателите на OpenAI-Сам Алтман, суперинтелектът може да бъде постигнат в рамките на пет години.

Призивът за забрана за разработването на компютърен суперинтелект е по инициатива на Института за бъдещето на живота, организация с нестопанска цел, която работи върху мащабни рискове като ядрени оръжия, биотехнологии и изкуствен интелект. Сред ранните ѝ поддръжници през 2015 година е и  технологичният милиардер Илон Мъск. Директорът на института, Антъни Агире, физик от Калифорнийския университет, казва, че призивът не е насочен към организация или правителство. Идеята е да бъде предизвикан разговор, който да включва не само големи компании за изкуствен интелект, но и политици в Съединените щати, Китай и други държави. Друг от съоснователите на Института за бъдещето на живота – физикът Макс Тегмарк подчертава, че "няма значение дали ще бъде след две или петнадесет години, да се строи подобно нещо е неприемливо и компаниите не трябва да предприемат подобна работа без регулаторна рамка".