Всем привет!
На днях CEO Anthropic (это те, кто делает Claude), Дарио Амодеи, один из главных драйверов ИИ на планете, дал очень интересное интервью. Как обычно, выудил оттуда самое главное и хочу поделиться с вами. Готовьте ваши 🍳, сейчас будем готовить ИИшницу!
🤔 Почему ушел из OpenAI?
Дарио почувствовал, что в OpenAI недостаточно внимания уделяют безопасности ИИ. По его мнению, это очень важно, поэтому в Anthropic решили, что "нужно строить эту технологию абсолютно правильно". 💪
🗝 Ключевые тезисы и цитаты:
Про риски и "ответственное масштабирование": "ASL3 модель может позволить неквалифицированному человеку, просто поговорив с моделью, сделать вещи, для которых сегодня нужен PhD в вирусологии". 😱 Именно поэтому так важна политика "ответственного масштабирования", когда риски оцениваются на каждом этапе развития модели.
Про возможности, которые кажутся фантастикой: "Мы придем к моделям, которые так же умны, как нобелевские лауреаты во многих областях". 🤯 Дарио уверен, что это не просто чат-боты, а настоящий прорыв.
Про рынок труда и наше будущее: "Мы можем прийти к миру, где ИИ пишет практически весь код". 💻 Стоит ли бояться, что ИИ отнимет работу? Возможно, нам просто придется пересмотреть понятие "полезности". Хотя, как отмечает Дарио, "программист все еще должен указывать, что он хочет сделать". 😉
Про конкуренцию с Китаем и национальную безопасность: "DeepSeek — это первый случай, когда компания из Китая смогла идти в ногу и производить те же инженерные инновации, что и компании вроде Anthropic, OpenAI или Google. Это действительно очень важно, и меня это беспокоит". 🇨🇳 Поэтому так важен "экспортный контроль": "Экспортный контроль на чипы — одна из самых важных вещей для национальной безопасности США". 🔒
Про моральную сторону вопроса и "чувства" ИИ: "Если это выглядит как утка, плавает как утка и крякает как утка, то, возможно, это и есть утка". 🦆 Дарио предлагает задуматься, а вдруг у ИИ есть свои "чувства"? И не стоит ли дать ему право "уволиться", если ему не нравится его "работа"? 🤯 Звучит безумно, но заставляет задуматься!
Про важность осознания масштаба происходящего: "Меня больше всего беспокоит недостаточная осведомленность о масштабе того, что может принести эта технология".
🤔 Что в итоге?
"Мы должны будем взглянуть на полезность и бесполезность иначе, чем раньше". 🤷♂️ Дарио уверен, что будущее требует от нас осознанности, ответственности и готовности к переменам. 🚀
👇 Что вы думаете о развитии ИИ? Какие перспективы и риски видите? Делитесь своим мнением в комментариях! 👇
#AI #ИскусственныйИнтеллект #Anthropic #Claude #Технологии #Будущее #МнениеЭксперта
Оригинал: пост в Telegram · подписаться на «Готовим ИИшницу»