mehanizator (mehanizator) wrote,
mehanizator
mehanizator

Будущее искусственного интеллекта

Оригинал взят у sandegud в Будущее искусственного интеллекта
Ниже - лекция одного из крупнейших мировых специалистов в области ИИ - Stuart Russell.
Лекция свежая - от 15-го мая.
Чрезвычайно интересная вещь.



Некоторые интересные куски информации из лекции:

Прогресс в области ИИ не линейный, а с ускорением. Сами разработчики ИИ удивляются нынешним невероятным темпам развития в области.

Коммерческие организации за последние 5 лет вложили в ИИ больше, чем государство за всю историю существования компьютеров. Причина: улучшение эффективности ИИ всего лишь на пару процентов для некоторых компаний означает миллиардный рост прибылей.

В США имеется огромный коммерческий спрос на разработчиков ИИ. Компании расхватывают их как горячие пирожки.

ИИ обсуждался на уровне ООН (в контексте запрета автономных боевых роботов).

К 2025 году уровень техногенной безработицы в США может достигнуть 50 млн человек (прим.: это очень близко к Предсингулярности)

Разработчики ИИ хорошо знакомы с трансгуманизмом. Смеются над дурацкими прогнозами аля Курцвейл, но в целом доброжелательно относятся.

Рост производительности компов не имеет практически никакого отношения к прогрессу в ИИ. Разработка ИИ это сугубо софтварная проблема.

Среди разработчиков ИИ все сильнее распространяются страхи о том, что их творения могут уничтожить человечество.

Идея о восстающих машинах - чушь. Сверхчеловеческий ИИ не будет строить армию терминаторов - у него будут гораздо более эффективные решения.

Военные уже сейчас активно участвуют в разработке ИИ, и всё больше вкладывают в это дело (прим.: вот тут есть кое-какая интересная инфа об).

Значительная часть разработчиков ИИ считает, что ИИ человеческого уровня возможен.

Очень важно уже сейчас думать о том, как сделать будущий сверхчеловеческий ИИ гарантированно дружественным. Это весьма сложная проблема, но уже есть несколько интересных подходов к ее решению.

Значительная часть разработчиков ИИ понимает наличие угрозы от не-дружественного ИИ. Но кое-кто эту угрозу принципиально игнорирует (в частности, военные).

Дружественность должна быть неотделимой частью любого проекта по разработке ИИ. Аналогия: безопасность лекарства - неотделимая часть проекта по разработки лекарства.

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 6 comments