Компютърни учени: Не бихме могли да контролираме супер интелигентни роботи

Ние сме очаровани от роботи, които могат самостоятелно да почистват, да управляват автомобили, да съставят симфонии или да победят хората на шах. Докато през цялото време се постига по-голям напредък в изкуствения интелект (ИИ), все повече учени предупреждават за опасностите от неконтролируем свръхинтелигентен робот. Използвайки теоретични изчисления, международен екип от изследователи, включително учени от Центъра за хора и машини към Института за човешко развитие Макс Планк показва, че вероятно не би било възможно да се контролира свръхинтелигентен ИИ на робот. Изследването е публикувано в Journal of Artificial Intelligence Research.

Робот свързан с интернет може да има достъп до всички данни на човечеството. Той може да замени всички съществуващи програми и да поеме контрола върху всички машини онлайн по целия свят. Това утопия ли е? Дали робота ще излекува рака, ще доведе ли до световен мир и ще предотврати ли климатично бедствие? Или би унищожил човечеството и би завзел Земята?

„Супер интелигентна машина, която контролира света, звучи като научна фантастика. Но вече има машини, които изпълняват определени важни задачи независимо, без програмистите да разбират напълно как са го научили. Следователно възниква въпросът дали това в един момент може да стане неконтролируемо и опасно за човечност “, казва съавторът на изследването Мануел Себриан.

В своето проучване екипът замисли теоретичен алгоритъм за ограничаване, който гарантира, че свръхинтелигентният робот не може да навреди на хората при никакви обстоятелства, като първо симулира поведението и го спира, ако се счита за вредно. Но внимателният анализ показва, че в настоящата ни парадигма на изчисленията такъв алгоритъм не може да бъде изграден. „Ако разбиете проблема до основни правила от теоретичната компютърна наука, се оказва, че алгоритъм, който би заповядал на робот да не унищожава света, може неволно да спре собствените си операции. Ако това се случи, няма да знаете дали алгоритъмът за ограничаване все още анализира заплахата или дали робота е спрял зловредните за човечеството действия. Всъщност това прави алгоритъма за ограничаване неизползваем „.