Фото pixabay.com
Мы столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу», – считает ученый Университета Луисвилля (США) Роман Ямпольский.
Как сообщает издание Tech Xplor, такую мысль он выразил в своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый», передает Esquire.kz
По словам специалиста, наивно полагать, что люди смогут объяснить любые действия ИИ, так как «наша способность создавать интеллектуальное ПО намного превосходит нашу способность контролировать его». Ученый назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.
«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», – подчеркнул Ямпольский.
По его мнению, ученые должны найти баланс между высокоразвитым ИИ и безопасностью. Специалист подытожил, что люди должны иметь возможность отменить любые действия или решения ИИ.