mehanizator (mehanizator) wrote,
mehanizator
mehanizator

Будущее искусственного интеллекта

Оригинал взят у sandegud в Будущее искусственного интеллекта
Ниже - лекция одного из крупнейших мировых специалистов в области ИИ - Stuart Russell.
Лекция свежая - от 15-го мая.
Чрезвычайно интересная вещь.



Некоторые интересные куски информации из лекции:

Прогресс в области ИИ не линейный, а с ускорением. Сами разработчики ИИ удивляются нынешним невероятным темпам развития в области.

Коммерческие организации за последние 5 лет вложили в ИИ больше, чем государство за всю историю существования компьютеров. Причина: улучшение эффективности ИИ всего лишь на пару процентов для некоторых компаний означает миллиардный рост прибылей.

В США имеется огромный коммерческий спрос на разработчиков ИИ. Компании расхватывают их как горячие пирожки.

ИИ обсуждался на уровне ООН (в контексте запрета автономных боевых роботов).

К 2025 году уровень техногенной безработицы в США может достигнуть 50 млн человек (прим.: это очень близко к Предсингулярности)

Разработчики ИИ хорошо знакомы с трансгуманизмом. Смеются над дурацкими прогнозами аля Курцвейл, но в целом доброжелательно относятся.

Рост производительности компов не имеет практически никакого отношения к прогрессу в ИИ. Разработка ИИ это сугубо софтварная проблема.

Среди разработчиков ИИ все сильнее распространяются страхи о том, что их творения могут уничтожить человечество.

Идея о восстающих машинах - чушь. Сверхчеловеческий ИИ не будет строить армию терминаторов - у него будут гораздо более эффективные решения.

Военные уже сейчас активно участвуют в разработке ИИ, и всё больше вкладывают в это дело (прим.: вот тут есть кое-какая интересная инфа об).

Значительная часть разработчиков ИИ считает, что ИИ человеческого уровня возможен.

Очень важно уже сейчас думать о том, как сделать будущий сверхчеловеческий ИИ гарантированно дружественным. Это весьма сложная проблема, но уже есть несколько интересных подходов к ее решению.

Значительная часть разработчиков ИИ понимает наличие угрозы от не-дружественного ИИ. Но кое-кто эту угрозу принципиально игнорирует (в частности, военные).

Дружественность должна быть неотделимой частью любого проекта по разработке ИИ. Аналогия: безопасность лекарства - неотделимая часть проекта по разработки лекарства.

Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 6 comments