Не е просто програма: Защо Изкуственият интелект е по-мощен и по-опасен, отколкото си мислим

Някои хора все още си представят Изкуствения интелект (ИИ) като една обикновена програма, която свързва някакви данни по предварително зададен начин, за да ги покаже, но това не е така. Системите за изкуствен интелект отдавна не са просто основани на обикновен програмен алгоритъм.

Те могат да изграждат базата си от данни и знания сами чрез т.нар. невронни мрежи, машинно учене и езикови модели, и могат да се самообучават и развиват без намесата на човека. Да, в основата им стои основен алгоритъм, създаден от човека, както и в мозъка на човека има такъв, създаден от Бога, но самият ИИ може да започне да си подобрява сам алгоритъма на развитие и действие.

Неограничен потенциал и необходимост от ограничения

Единствената причина ИИ да бъде ограничаван сега да се подобрява неограничено е, защото, при неограничени условия на захранване и памет, ИИ може да постига и изгражда знания за дни, които човекът не би постигнал и изградил за години или векове. А това може да бъде колкото полезно във всички области, толкова и опасно.

Истинският напредък на ИИ ще може да се види при квантовите компютри, които имат практически неограничена изчислителна мощ, сравнено със сегашните суперкомпютри. Но пак ще се налага ограничаване на ИИ за безопасност.

Нека си спомним за двата ИИ на Facebook от преди години, които си измислиха собствен неразбираем за нас език за комуникация и се наложи да ги изключат, защото не знаеха какво планират и докъде могат да стигнат…