sandegud в Будущее искусственного интеллектаНиже - лекция одного из крупнейших мировых специалистов в области ИИ - Stuart Russell.
Лекция свежая - от 15-го мая.
Чрезвычайно интересная вещь.
Некоторые интересные куски информации из лекции:
Прогресс в области ИИ не линейный, а с ускорением. Сами разработчики ИИ удивляются нынешним невероятным темпам развития в области.
Коммерческие организации за последние 5 лет вложили в ИИ больше, чем государство за всю историю существования компьютеров. Причина: улучшение эффективности ИИ всего лишь на пару процентов для некоторых компаний означает миллиардный рост прибылей.
В США имеется огромный коммерческий спрос на разработчиков ИИ. Компании расхватывают их как горячие пирожки.
ИИ обсуждался на уровне ООН (в контексте запрета автономных боевых роботов).
К 2025 году уровень техногенной безработицы в США может достигнуть 50 млн человек (прим.: это очень близко к Предсингулярности)
Разработчики ИИ хорошо знакомы с трансгуманизмом. Смеются над дурацкими прогнозами аля Курцвейл, но в целом доброжелательно относятся.
Рост производительности компов не имеет практически никакого отношения к прогрессу в ИИ. Разработка ИИ это сугубо софтварная проблема.
Среди разработчиков ИИ все сильнее распространяются страхи о том, что их творения могут уничтожить человечество.
Идея о восстающих машинах - чушь. Сверхчеловеческий ИИ не будет строить армию терминаторов - у него будут гораздо более эффективные решения.
Военные уже сейчас активно участвуют в разработке ИИ, и всё больше вкладывают в это дело (прим.: вот тут есть кое-какая интересная инфа об).
Значительная часть разработчиков ИИ считает, что ИИ человеческого уровня возможен.
Очень важно уже сейчас думать о том, как сделать будущий сверхчеловеческий ИИ гарантированно дружественным. Это весьма сложная проблема, но уже есть несколько интересных подходов к ее решению.
Значительная часть разработчиков ИИ понимает наличие угрозы от не-дружественного ИИ. Но кое-кто эту угрозу принципиально игнорирует (в частности, военные).
Дружественность должна быть неотделимой частью любого проекта по разработке ИИ. Аналогия: безопасность лекарства - неотделимая часть проекта по разработки лекарства.
Лекция свежая - от 15-го мая.
Чрезвычайно интересная вещь.
Некоторые интересные куски информации из лекции:
Прогресс в области ИИ не линейный, а с ускорением. Сами разработчики ИИ удивляются нынешним невероятным темпам развития в области.
Коммерческие организации за последние 5 лет вложили в ИИ больше, чем государство за всю историю существования компьютеров. Причина: улучшение эффективности ИИ всего лишь на пару процентов для некоторых компаний означает миллиардный рост прибылей.
В США имеется огромный коммерческий спрос на разработчиков ИИ. Компании расхватывают их как горячие пирожки.
ИИ обсуждался на уровне ООН (в контексте запрета автономных боевых роботов).
К 2025 году уровень техногенной безработицы в США может достигнуть 50 млн человек (прим.: это очень близко к Предсингулярности)
Разработчики ИИ хорошо знакомы с трансгуманизмом. Смеются над дурацкими прогнозами аля Курцвейл, но в целом доброжелательно относятся.
Рост производительности компов не имеет практически никакого отношения к прогрессу в ИИ. Разработка ИИ это сугубо софтварная проблема.
Среди разработчиков ИИ все сильнее распространяются страхи о том, что их творения могут уничтожить человечество.
Идея о восстающих машинах - чушь. Сверхчеловеческий ИИ не будет строить армию терминаторов - у него будут гораздо более эффективные решения.
Военные уже сейчас активно участвуют в разработке ИИ, и всё больше вкладывают в это дело (прим.: вот тут есть кое-какая интересная инфа об).
Значительная часть разработчиков ИИ считает, что ИИ человеческого уровня возможен.
Очень важно уже сейчас думать о том, как сделать будущий сверхчеловеческий ИИ гарантированно дружественным. Это весьма сложная проблема, но уже есть несколько интересных подходов к ее решению.
Значительная часть разработчиков ИИ понимает наличие угрозы от не-дружественного ИИ. Но кое-кто эту угрозу принципиально игнорирует (в частности, военные).
Дружественность должна быть неотделимой частью любого проекта по разработке ИИ. Аналогия: безопасность лекарства - неотделимая часть проекта по разработки лекарства.
