Ученые: AI скорее зависнет, чем что-то уничтожит
24 марта 2015г.
Президент Ассоциации по улучшению искусственного интеллекта и почетный профессор компьютерных наук в Университете штата Орегон Томас Диеттерич (Thomas Dietterich) считает, что основной вред от искусственного интеллекта исходит из его склонности «зависать» или сбоить. Поломки, кибер-атаки, ошибки в коде — вот бич отрасли AI. По мнению Томаса, машины никогда не смогут уничтожить человечество, даже если бы были на то запрограммированы.
Сейчас в область кремниевого разума вкладываются миллиарды долларов. Одно из самых популярных направлений — роботизация промышленности. С недавних пор значительно выросли инвестиции в область мобильных сервисов помощи и смартфонных технологий — Apple Siri, Google Now, Microsoft Cortana. И в статьях расходов немалые суммы тратятся на защитные протоколы для AI.
В обозримом будущем колом станет вопрос о том, насколько безопасно выводить роботизированный автомобиль на улицы города без участия водителя или отправлять на операцию автоматические собаки-спасатели. Человечество начинает сейчас реагировать на то, что Томас и другие ученые обсуждают в кулуарах университетов более десятка лет. Просто сейчас общество сталкивается с готовыми решениями в области искусственного интеллекта и не знает, как правильно реагировать на это.
Единственная угроза для человечества — это сам человек, говорит Томас Диеттерич. От кремниевого разума не стоит ожидать ничего плохого до тех пор, пока в его «мозги» не вмешается злоумышленник, способный взламывать системы безопасности. Именно по этой причине ученые призывают производителей и разработчиков внести существенный вклад в системы защиты искусственного интеллекта.
Сейчас в область кремниевого разума вкладываются миллиарды долларов. Одно из самых популярных направлений — роботизация промышленности. С недавних пор значительно выросли инвестиции в область мобильных сервисов помощи и смартфонных технологий — Apple Siri, Google Now, Microsoft Cortana. И в статьях расходов немалые суммы тратятся на защитные протоколы для AI.
В обозримом будущем колом станет вопрос о том, насколько безопасно выводить роботизированный автомобиль на улицы города без участия водителя или отправлять на операцию автоматические собаки-спасатели. Человечество начинает сейчас реагировать на то, что Томас и другие ученые обсуждают в кулуарах университетов более десятка лет. Просто сейчас общество сталкивается с готовыми решениями в области искусственного интеллекта и не знает, как правильно реагировать на это.
Единственная угроза для человечества — это сам человек, говорит Томас Диеттерич. От кремниевого разума не стоит ожидать ничего плохого до тех пор, пока в его «мозги» не вмешается злоумышленник, способный взламывать системы безопасности. Именно по этой причине ученые призывают производителей и разработчиков внести существенный вклад в системы защиты искусственного интеллекта.
