Термінатор може стати реальністю: люди не зможуть контролювати надрозумних роботів

13 січня 2021 о 19:00 - 937
Термінатор може стати реальністю: люди не зможуть контролювати надрозумних роботів

Вчені встановили, що люди не зможуть тримати під контролем надрозумних роботів , навіть якщо приймуть для цього всі можливі заходи.

Як повідомляє Naked Science, до такого висновку прийшла група вчених з фахівцями Центру людей і машин Інституту розвитку людини Макса Планка.

Стаття про їхню роботу опубліковано в Journal of Artificial Intelligence Research.

«Надрозумна машина, яка керує світом — звучить як наукова фантастика. Але вже є роботи, що виконують певні важливі завдання незалежно. При цьому програмісти взагалі не розуміють, як вони цьому навчилися. В результаті виникає питання: чи може цей процес в якийсь момент стати неконтрольованим і небезпечним для людства?» — каже один з авторів дослідження Мануель Себріан, керівник групи цифровий мобілізації в Центрі людей і машин Інституту Макса Планка.

Вчені використовували моделювання та теоретичні розрахунки, щоб з’ясувати межі можливостей людини по управлінню просунутим ШІ.

Як з’ясувалося, навіть якщо закласти в надрозумну машину дані про етичні принципи і обмежити її зв’язки із зовнішнім світом (наприклад, відключити доступ в інтернет), це не врятує людство від ризиків того, що подібна система вийде з-під контролю.

«Ми стверджуємо, що повне стримування в принципі неможливе через фундаментальні обмеження, властиві самому обчисленню. Надрозум буде містити програму, яка включає в себе всі програми, що здійснюються за допомогою універсальної машини Тьюринга, потенційно настільки ж складною, як стан світу», — роблять висновок дослідники.

Також ми писали: Трьом молодим вченим з Дніпропетровщини призначили премії від Верховної Ради України.

Поділитися: