March 31, 2023

Стоит ли бояться ChatGPT5 и прочих AI? Ответ: возможно, но это не так уж важно.

Я смотрю и слушаю довольно много подкастов каждую неделю, и вот один из них меня очень хорошо поразил.

Это разговор Сэма Алтмана (OpenAI, ex-CEO YCombinator) с Лексом Фридманом, известным исследователем AI из MIT и подкастером.

Полная версия разговора тут, но поскольку энтузиасты уже нарезали кусочками оригинал, хочу рассказать через эти клипы, что мне в нем понравилось:

1️⃣ Что такое ChatGPT и как он вообще работает, и что такое Human Reinforcement of Learning (RLHF)? Коротко о том, как все так произошло, итерируется, обучается и контролируется инженерами OpenAI.

▶️youtu.be/YuJyyAhRbgw

2️⃣ Почему перед OpenAI Алтман активно занимался вопросом универсального базового дохода (UBI)? Если коротко, благодаря ИИ будет создано очень много богатства для общества. Важно, как оно будет распределено.

▶️youtu.be/_yfQrtKjtH4

3️⃣ Что такое AGI (Artificial general intelligence) и стоит ли ожидать его скорейшего возникновения? Похоже, что стоит, причем не одного AGI, а сразу нескольких.

▶️youtu.be/ZgN7ZYUxcXM

4️⃣ Имеет ли смысл бояться ИИ? Похоже, что да. Но всё очень зависит от людей, которые будут использовать ИИ для своих целей. Пример: Китай и уйгуры. Как говорится, bullets don’t kill people, people kill people.

▶️youtu.be/NiDlrJt569w

5️⃣ Можно ли что-то сделать с байасом в ИИ? Например, ChatGPT считают очень «woke», то есть толкающим «левую» повестку, толерантность и т.п. А как должно быть? Ответ: любой AI будет иметь байас, более того, по мере обучения он обретает больше байаса тех, кто промптит.

▶️ youtu.be/gIV6X6B6cU4

6️⃣ Создатели ИИ — очень влиятельные люди. Что делать с тем фактом, что нахождение у такой власти разрушает? Ответ: зная об этом, быть внутри структур, которые создают сдержки и противовесы. Например, прикрутить к управлению ИИ демократические процессы.

▶️ youtu.be/8sOe8NjrpuU

7️⃣ Может ли GPT адекватно работать с темами вроде теорий заговора и фейковыми новостями? Да, это делается за счет того, что выдаются разные точки зрения, и благодаря нескольким перспективам, даже теории заговора можно подать разумно.

▶️ youtu.be/KQZb_7kjRuI

8️⃣ Должны ли ИИ вроде ChatGPT цензурироваться? Ограничения есть, но в долгосрочной перспективе OpenAI стремимся их убрать

▶️ youtu.be/RJpd0tgF0fs

9️⃣ Как Алтман думает о конкуренции с тех-гигантами (Гугл, Мета и т.п.)? Очень просто: я не могу ничего с этим сделать, если будет много AGI, это круто, пусть растут и конкурируют

▶️ www.youtu.be.com/Ag9oTnLK4CU

🔟 Почему Илон Маск поливает 💩 OpenAI и ChatGPT? Короткий ответ: имеет радикальные взгляды на развитие индустрии и не стесняется стебать своих (бывших) друзей.

▶️ youtu.be/GKvC-C_uZrM

Сэм Алтман кажется чуваком с очень «продвинутыми» логиками действия. Например, его подход к организации корпоративной культуры (нон-профит с коммерческим субсидарием), как он рассказывает о партнерствах, системах, в которых openAI существует, и про парадоксы, которые ему норм удерживать.

Короче, рекомендую. Очень важный и своевременный разговор. Enjoy 🙌

Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcast #367
Sam Altman is the CEO of OpenAI, the company behind GPT-4, ChatGPT, DALL-E, Codex, and many other state-of-the-art AI technologies. Please support this podcast by checking out our sponsors: - NetSuite: http://netsuite.com/lex to get free product tour - SimpliSafe: https://simplisafe.com/lex - ExpressVPN: https://expressvpn.com/lexpod to get 3 months free EPISODE LINKS: Sam's Twitter: https://twitter.com/sama OpenAI's Twitter: https://twitter.com/OpenAI OpenAI's Website: https://openai.com GPT-4 Website: https://openai.com/research/gpt-4 PODCAST INFO: Podcast website: https://lexfridman.com/podcast Apple Podcasts: https://apple.co/2lwqZIr Spotify: https://spoti.fi/2nEwCF8 RSS: https://lexfridman.com/feed/podcast/ Full episodes playlist: https://www.youtube.com/playlist?list=PLrAXtmErZgOdP_8GztsuKi9nrraNbKKp4 Clips playlist: https://www.youtube.com/playlist?list=PLrAXtmErZgOeciFP3CBCIEElOJeitOr41 OUTLINE: 0:00 - Introduction 4:36 - GPT-4 16:02 - Political bias 23:03 - AI safety 43:43 - Neural network size 47:36 - AGI 1:09:05 - Fear 1:11:14 - Competition 1:13:33 - From non-profit to capped-profit 1:16:54 - Power 1:22:06 - Elon Musk 1:30:32 - Political pressure 1:48:46 - Truth and misinformation 2:01:09 - Microsoft 2:05:09 - SVB bank collapse 2:10:00 - Anthropomorphism 2:14:03 - Future applications 2:17:54 - Advice for young people 2:20:33 - Meaning of life SOCIAL: - Twitter: https://twitter.com/lexfridman - LinkedIn: https://www.linkedin.com/in/lexfridman - Facebook: https://www.facebook.com/lexfridman - Instagram: https://www.instagram.com/lexfridman - Medium: https://medium.com/@lexfridman - Reddit: https://reddit.com/r/lexfridman - Support on Patreon: https://www.patreon.com/lexfridman