КИЇВ — Стрімкий розвиток технологій штучного інтелекту досяг межі, за якою ризики втрати контролю над суперінтелектом стають однією з головних загроз для глобальної безпеки у найближчому десятилітті. Американські дослідники та фахівці у галузі високих технологій попереджають: масштабна гонка зі створення загального штучного інтелекту прискорюється щодня, проте пов’язані з цим процесом небезпеки залишаються поза належним міжнародним контролем.
За оцінками наукової спільноти, сучасні алгоритми самонавчання розвиваються за експоненціальною траєкторією. Прагнення технологічних гігантів першими створити суперінтелект, який за обчислювальними можливостями перевершить людський розум, змушує розробників нехтувати базовими протоколами безпеки. Особливу тривогу викликає той факт, що навіть самі творці автономних систем визнають потенційно деструктивний потенціал нових моделей ШІ.
Основна проблема полягає у відсутності надійних механізмів стримування та коректного спрямування дій автономних систем. Прискорене інтегрування технологій ШІ у критичні інфраструктури — включаючи енергетичні мережі, глобальні фінансові системи та оборонні комплекси — створює загрозу виникнення системних збоїв чи неузгодженості цілей алгоритмів із потребами людства. За відсутності нагляду це може призвести до незворотних наслідків уже протягом наступних 10 років.
Наразі перед світовою спільнотою стоїть завдання створення ефективних нормативно-правових інструментів для регулювання сфери ШІ. Дослідники наполягають на негайному запровадженні обов’язкових міжнародних стандартів прозорості, аудиту внутрішніх алгоритмів та обмеженні автономності систем у чутливих сферах. Лише жорсткий контроль та глобальна координація спроможні відвернути сценарії, за яких технологічний прогрес перетвориться на існувальну загрозу для цивілізації.
Джерело: DW Україна.