Вчені встановили, що люди не зможуть тримати під контролем надрозумних роботів , навіть якщо приймуть для цього всі можливі заходи.
Як повідомляє Naked Science, до такого висновку прийшла група вчених з фахівцями Центру людей і машин Інституту розвитку людини Макса Планка.
Стаття про їхню роботу опубліковано в Journal of Artificial Intelligence Research.
«Надрозумна машина, яка керує світом — звучить як наукова фантастика. Але вже є роботи, що виконують певні важливі завдання незалежно. При цьому програмісти взагалі не розуміють, як вони цьому навчилися. В результаті виникає питання: чи може цей процес в якийсь момент стати неконтрольованим і небезпечним для людства?» — каже один з авторів дослідження Мануель Себріан, керівник групи цифровий мобілізації в Центрі людей і машин Інституту Макса Планка.
Вчені використовували моделювання та теоретичні розрахунки, щоб з’ясувати межі можливостей людини по управлінню просунутим ШІ.
Як з’ясувалося, навіть якщо закласти в надрозумну машину дані про етичні принципи і обмежити її зв’язки із зовнішнім світом (наприклад, відключити доступ в інтернет), це не врятує людство від ризиків того, що подібна система вийде з-під контролю.
«Ми стверджуємо, що повне стримування в принципі неможливе через фундаментальні обмеження, властиві самому обчисленню. Надрозум буде містити програму, яка включає в себе всі програми, що здійснюються за допомогою універсальної машини Тьюринга, потенційно настільки ж складною, як стан світу», — роблять висновок дослідники.
Також ми писали: Трьом молодим вченим з Дніпропетровщини призначили премії від Верховної Ради України.