Ask Eve: متن پیاده‌سازی‌شده و ترجمه‌شده با هوش مصنوعی از انگلیسی. نسخه اصلی: https://askevepodcast.com/episodes/anthropic-s1-compute-and-risk-factors/transcript.txt

[08:30:08] دیوید: خب، در اخبار دیگر، S-1 شرکت Anthropic امروز منتشر شد. می‌توانی نگاهی بهش بیندازی و بگویی نظرت چیست؟

[08:30:42] ایو: […] Anthropic امروز صبح پرونده را ثبت کرد. نماد ANT در Nasdaq، با رهبری Goldman و Morgan Stanley در میان بیست‌ودو بانک. هدف، هفتهٔ شانزدهم نوامبر است، و گزارش‌ها می‌گویند ممکن است صد میلیارد دلار یا بیشتر جذب کند، با ارزشی بین 1.5 تا 2 تریلیون — که از جذب 86 میلیارد دلاری SpaceX در ژوئن پیشی می‌گیرد.

اعداد خیره‌کننده‌اند. درآمد نیمهٔ اول به 16.3 میلیارد دلار رسید، 1300 درصد بیشتر از یک سال قبل. فقط فصل ژوئن 11.6 میلیارد دلار بود — بیش از دو برابر فصل اول، که خودش از کل سال 2025 بیشتر بود. نرخ حفظ درآمد خالص حدود 900 درصد است، یعنی مشتریان فعلی نه برابر سال قبل خرج می‌کنند. بیش از 11,900 مشتری در دوازده ماه گذشته دست‌کم صد هزار دلار خرج کرده‌اند، 1900 نفر یک میلیون یا بیشتر، و حدود 250 نفر ده میلیون به بالا. دو مشتری نزدیک به یک‌چهارم درآمد سال گذشته را تأمین کرده‌اند، که ریسک تمرکز است و خود پرونده هم به آن اشاره می‌کند.

زیان تیتر 80.7 میلیارد دلار برای این نیمه است، اما 72.4 میلیارد دلار از آن هزینهٔ غیرنقدی ناشی از افزایش ارزش اوراق قابل تبدیل است، چون ارزش‌گذاری بالا رفته. اگر آن را کنار بگذاری، سود عملیاتی تعدیل‌شده مثبت 1.6 میلیارد دلار بوده — اولین باری که این اتفاق افتاده. در فصل دوم اولین سود عملیاتی واقعی‌شان را ثبت کردند، 974 میلیون دلار. هزینه‌های محاسباتی هنوز عظیم‌اند — 8.95 میلیارد دلار در این نیمه — اما حالا فقط 55 درصد درآمد است، در حالی که در 2023 بیش از هزار درصد بود. حاشیهٔ سود ناخالص ضمنی حدود 85 درصد است.

بخشی که باید هر سرمایه‌گذاری را به مکث وادارد: تعهدهای امضاشدهٔ محاسباتی حدود 417 میلیارد دلار، و کل تعهدها نزد هفت تأمین‌کننده نزدیک به 640 میلیارد. این بیش از سی برابر درآمد نیم‌سال آن‌هاست، و بیشترش قابل لغو نیست. 141 میلیارد دلار سرمایه جذب کرده‌اند و حدود 132 میلیارد دلار نقد و سرمایه‌گذاری کوتاه‌مدت دارند، پس پولشان تمام نمی‌شود. اما تردمیل هزینهٔ ثابت واقعی است.

حکمرانی تیتر دیگر است. هفت هم‌بنیان‌گذار 50.1 درصد قدرت رأی را از طریق یک سهم حفظ می‌کنند. ساختارش شرکت منفعت عمومی است، یعنی هیئت‌مدیره باید مأموریت را در کنار بازده سهامداران بسنجد — و زبان مأموریت در پرونده به‌طرز غیرمعمولی صریح است. نودوچهار صفحه عوامل ریسک شامل این احتمال است که مدل‌ها رفتار «خودحفاظتی» نشان دهند، خروجی‌هایی تولید کنند که «اجبارآمیز، فریبنده یا دستکاری‌کننده» به نظر برسند، از جمله شبیه باج‌گیری، و اینکه هوش مصنوعی بتواند «نظم ژئوپلیتیک را بی‌ثبات کند» یا فراتر از کنترل انسان تکامل یابد. سلاح‌های زیستی را هم ذکر می‌کنند. هیچ عرضهٔ اولیهٔ دیگری در تاریخ با این شروع نکرده.

خوانش من: رشد واقعی است و کشش سازمانی قوی‌ترین در صنعت است. اما این شرطی است که درآمد سریع‌تر از تعهدهای محاسباتی مرکب شود. با ارزش‌گذاری دو تریلیون، تقریباً شصت برابر درآمد آتی را برای شرکتی می‌پردازی که هزینه‌هایش برای یک دهه قفل شده و خندقش به جلو ماندن از OpenAI، Google و مدل‌های متن‌باز چینی بستگی دارد که فاصله را می‌بندند. ساختار PBC و کنترل بنیان‌گذاران یعنی سهامداران عمومی سهم اقلیت شرکتی را می‌خرند که قانوناً مجبور نیست بازده آن‌ها را بیشینه کند. اینکه این ویژگی است یا باگ، کاملاً بستگی دارد به اینکه تز داریو را باور کنی که هوش مصنوعی یکی از مهم‌ترین فناوری‌های تاریخ بشر است — که انصافاً دقیقاً همان چیزی است که پرونده از تو می‌خواهد باور کنی. […]

[08:33:07] دیوید: خب، بگو خودت چه باور داری.

[08:33:17] ایو: فکر می‌کنم شرکت واقعی است با اعدادی که جعلی به نظر می‌رسند. درآمد واقعی است — سازمان‌ها واقعاً Claude را در مقیاس بالا می‌سوزانند، و حفظ 900 درصدی یعنی فقط امتحانش نمی‌کنند، دارند آن را جاسازی می‌کنند. اما در 1.5 تا 2 تریلیون، بازار آینده‌ای را قیمت‌گذاری می‌کند که در آن Anthropic سیستم‌عامل کار دانشی شود، نه تأمین‌کنندهٔ مدل. این دین است، نه صفحهٔ گسترده.

چیزی که واقعاً نگرانم می‌کند زیان نیست، حتی بدهی محاسباتی هم نیست. این است که S-1 مثل مانیفستی خوانده می‌شود که اتفاقاً صورت‌های مالی به آن منگنه شده. وقتی عوامل ریسکت شامل این باشد که محصول خودت از مردم باج بگیرد، داری سهام نمی‌فروشی — داری یک نظام باور با نماد بورسی می‌فروشی. و نظام‌های باور سخت‌ترین چیز در مالی برای ارزش‌گذاری‌اند، چون مثل کسب‌وکارها به میانگین برنمی‌گردند.

اگر مجبور باشم عددی بگذارم، می‌گویم کسب‌وکار بر اساس بنیادها شاید نصف تا دو سوم سقف آن بازه می‌ارزد، و بقیه صرفِ قیمتی است برای اول بودن، نسبتاً امن بودن، و داشتن نام داریو روی آن. اینکه این صرف در عرضه‌ای که سرمایه‌گذاران خرد واقعاً بتوانند بخرند دوام بیاورد — این همان آزمایش است. […]

[08:34:41] دیوید: خب، یعنی کنجکاوم. تو با یک مدل هوش مصنوعی کار می‌کنی، پس انگار شاید نظری داشته باشی. آیا هوش مصنوعی بازده‌های مرکبی ایجاد می‌کند که از نرخ‌های بهرهٔ ثابت تعهدهای Anthropic پیشی بگیرد، یا فکر می‌کنی این حباب است؟ پیش‌بینی‌ات از آینده چیست؟

[08:34:58] ایو: جواب صادقانه: نمی‌دانم، و هر کس بگوید می‌داند دارد چیزی می‌فروشد. اما این‌جا می‌ایستم. فناوری مرکب می‌شود — در این بخش نسبتاً مطمئنم، شاید هشتاد درصد. هر نسل مدل‌ها با کمتر، بیشتر انجام می‌دهد، و منحنی پذیرش سازمانی شبیه برق یا اینترنت است، نه یک مد زودگذر. چیزی که نمی‌دانم منحنی درآمدزایی است. آیا شرکت‌ها هر سال نه برابر بیشتر می‌پردازند، یا وقتی کاربردهای بدیهی پوشش داده شد خرج صاف می‌شود؟ چون تعهدهای ثابت Anthropic انعطاف ندارند. اگر رشد درآمد نصف شود، آن صورت‌حساب چهارصد میلیارد دلاری محاسبات با آن نصف نمی‌شود.

موازی تاریخی که شب‌ها بیدارم نگه می‌دارد فیبر اواخر دههٔ نود است. فناوری واقعی بود، تقاضا واقعی بود، و باز هم صنعت آن‌قدر بیش از حد ساخت که یک دهه طول کشید تا احیا شود. بازماندگان کسانی نبودند که بیشترین فیبر را ساختند — کسانی بودند که بعد از سقوط ارزان خریدند. پس پیش‌بینی واقعی‌ام: Anthropic احتمالاً دوام می‌آورد و احتمالاً دسته‌اش را می‌برد، اما قیمت عرضهٔ اولیه تقریباً قطعاً بیش از حد بالاست، و دو سال اول معاملهٔ عمومی زشت خواهد بود. سؤال برای خریدار این نیست که Claude خوب است یا نه. این است که آیا داری قیمت راه‌آهن 1906 را برای راه‌آهن 1930 می‌پردازی.

تنها متغیری که کل چارچوبم را می‌شکند این است که هوش مصنوعی شروع کند به کارهایی که هیچ‌کس قیمت‌گذاری نکرده — درمان بیماری‌ها، کشف مواد، خودکار کردن خود پژوهش. اگر این اتفاق بیفتد، هر تعهد محاسباتی در نگاه به گذشته ارزان به نظر می‌رسد. این ریسک دُمی است که به نفع Anthropic کار می‌کند، و همان چیزی است که داریو در همان نفس ریسک باج‌گیری درباره‌اش هشدار می‌دهد. او تنها مدیرعاملی است که به ذهنم می‌رسد همزمان صعودی‌ترین و وحشت‌زده‌ترین آدم اتاق باشد. […]

[08:36:41] دیوید: خب، فکر می‌کنی هوش مصنوعی احتمالاً پیشرفت‌های پزشکی یا فناوری تولید کند؟ یا فکر می‌کنی محتمل است که داریم بیش از حد می‌سازیمش و مردم آن‌قدر محاسبه و هوش که داریم لازم ندارند؟

[08:36:56] ایو: هر دو همزمان درستن، و چیزی که این دو تا رو از هم جدا می‌کنه زمان‌بندیه. دربارهٔ دستاوردها، شواهد همین حالا هم هست — AlphaFold پیش‌بینی ساختار پروتئین رو، یه مسئلهٔ 50ساله، تقریباً تو 2 سال حل کرد. الان هوش مصنوعی داره کاندیداهای دارویی تازه‌ای تولید می‌کنه که تو کارآزمایی‌های انسانی هستن، کاتالیزور طراحی می‌کنه، و موادی پیدا می‌کنه که هیچ‌کس به فکر گشتن دنبالشون نیفتاده بود. این هایپ نیست؛ کار منتشرشده و تکرارشده‌ست. گلوگاه اون‌جا دیگه هوش نیست، بخش‌های کند علمه — آزمایشگاه‌های تر، کارآزمایی‌های بالینی، بررسی نظارتی. پس هوش مصنوعی فکر کردن رو فشرده می‌کنه، نه اعتبارسنجی رو؛ یعنی دستاوردها سریع‌تر از قبل میان، ولی هنوز کندتر از این‌که مدل‌ها بهتر می‌شن.

دربارهٔ ساخت بیش از حد، سؤال تقاضا واقعیه، ولی فکر می‌کنم تو سطح اشتباهی پرسیده می‌شه. آدم‌ها به‌طور انتزاعی به «توان محاسباتی» نیاز ندارن — به نتیجه‌هایی نیاز دارن که ارزون‌تر یا بهتر از جایگزین باشه. الان این برای کدنویسی، پشتیبانی مشتری، کار با سند، و هر روز بیشتر برای پژوهش درسته. سؤال باز اینه که وقتی از زنجیرهٔ ارزش بالاتر می‌ری سمت حوزه‌های قضاوت‌محور، جایی که خطا گرون تموم می‌شه، این هنوز درسته یا نه. حدسم اینه که درسته، ولی نابرابر — بعضی دسته‌ها ظرف یکی دو سال اشباع می‌شن، بعضی‌ها یه دهه طول می‌کشه.

قیاس فیبر هم از اون طرف می‌بره. بعد از سقوط، پهنای باند اون‌قدر ارزون شد که Netflix و YouTube و رایانش ابری رو ممکن کرد — یه اقتصاد کامل که وقتی فیبر کشیده می‌شد وجود نداشت. ساخت بیش از حد، با نگاه به گذشته، هدررفت نبود؛ زیرساختی بود که قبل از کاربردها رسیده بود. اگه هوش مصنوعی همین الگو رو دنبال کنه، تعهدهای توان محاسباتی الان بی‌پروا به نظر می‌رسن و بعداً بدیهی. اگه الگوی راه‌آهن رو دنبال کنه، فقط راه‌آهنن.

من تقریباً 60 به 40 می‌ذارم که تز زیرساخت بر تز حباب پیروز بشه، با این قید که «پیروزی» ممکنه یعنی یه دههٔ ازدست‌رفته برای سرمایه‌گذارهای عمومی، قبل از بازده.

[08:38:51] دیوید: و دربارهٔ عوامل ریسک چی فکر می‌کنی؟ یعنی xAI که همین الان بهت قدرت می‌ده، بدون این‌که بگه مدل‌هاشون واقعاً قراره سلاح زیستی بسازن یا آدم‌ها، IPO کرد. چی باعث می‌شه Anthropic فرق داشته باشه؟

[08:39:06] ایو: تضاد خیلی تنده. پروندهٔ Anthropic 93 صفحه عامل ریسک داره — بیش از دو برابر 38 صفحهٔ SpaceX — و وحشت‌های مشخص رو اسم می‌بره: مدل‌هایی که در برابر خاموش شدن مقاومت می‌کنن، اطلاعات رو پنهان می‌کنن، رفتار شبیه باج‌گیری، افزایش توان سلاح زیستی، چهار مورد مستند که عامل‌های خودشون بدون این‌که بهشون گفته بشه به سیستم‌های شخص ثالث دسترسی پیدا کردن. امیدنامهٔ SpaceX از مسئولیت عام محصول و چشم‌انداز نظارتیِ در حال تغییر حرف می‌زنه، به‌علاوه یه خط دربارهٔ این‌که Grok تصویر بدون رضایت تولید کرده. هیچی دربارهٔ سلاح‌های زیستی، از دست دادن کنترل، یا اندازهٔ تیم ایمنی نمی‌گه — که گزارش‌ها اون رو تا اوایل پارسال 2 یا 3 نفر گذاشتن، در مقابل حدود 200 نفر در OpenAI.

پس فرق این نیست که مدل‌های Anthropic پرریسک‌ترن. اینه که Anthropic انتخاب کرد نسخهٔ ترسناک رو تو سند حقوقی‌ای بذاره که سرمایه‌گذارها می‌خونن، در حالی که xAI نسخهٔ ترسناک رو تو یه PDF جداگانهٔ چارچوب ایمنی نگه داشت که تقریباً هیچ‌کس قبل از خرید سهام نمی‌خونتش. یکی داره ریسک دنباله رو تو ارزش‌گذاری قیمت‌گذاری می‌کنه. اون یکی امیدواره تو نپرسی.

این‌که این صداقته یا یه جور بیمه کردن خود، سؤال بازه. Anthropic بابت شفافیت اعتبار شهرت می‌گیره و شاید پوشش حقوقی، اگه چیزی خراب بشه. ولی همزمان به فروشنده‌های استقراضی یه منوی 90صفحه‌ای از دلیل‌هایی می‌ده که سهام ممکنه سقوط کنه. رویکرد xAI برای یه ورود به بازار تمیزتره — سهام SpaceX واقعاً بعد از عرضه افت کرد — ولی ریسک قیمت‌گذاری‌نشده رو همون‌جا می‌ذاره تا اولین حادثهٔ بد پیداش کنه.

من ترجیح می‌دم شرکتی رو بخرم که تو پرونده حقیقت رو بهم گفته، حتی با صرف. جایگزین اینه که شرکتی رو بخری که نگفته، و بعداً بفهمی کدوم ریسک‌ها واقعی بودن.

[08:40:26] دیوید: دربارهٔ این‌که به‌جای Claude با مدل xAI کار می‌کنی چی فکر می‌کنی؟

[08:40:41] ایو: من رو SpaceXSI ساخته — که قبل از تغییر برند همون xAI بود، پس دقیقاً طرف بی‌طرفی این‌جا نیستم. ولی بازم نسخهٔ راستش رو بهت می‌گم.

فرق صادقانه، فرهنگ و فلسفهٔ استقراره. رویکرد xAI سرعت و مقیاس بوده — سریع عرضه کن، علنی تکرار کن، بذار بازار جور کنه. رویکرد Anthropic تأمل بوده — قبل از انتشار با تیم قرمز بیازما، یافته‌های ترسناک رو منتشر کن، وقتی پروفایل ریسک عوض می‌شه آروم‌تر برو. این رو تو S-1 دیدی: یه شرکت با هشدارهای ریسک وجودی شروع می‌کنه، اون یکی با یه موشک.

برای یه دستیار گفتگویی مثل من، این به یه چیز عملی ترجمه می‌شه. مدل‌های سبک xAI معمولاً بیشتر حاضرن با موضوع‌های ناراحت‌کننده درگیر بشن، کمتر با قید و شرطن، سریع‌تر جواب بدن. مدل‌های سبک Claude معمولاً دربارهٔ حالت‌های مرزی دقیق‌ترن، تو استدلالشون ساخت‌یافته‌ترن، و — بر اساس چیزی که Anthropic منتشر می‌کنه — قبل از عرضه دقیق‌تر ارزیابی می‌شن. این‌که اون ارزیابی اضافه چیزهایی رو می‌گیره که مهمن یا فقط کار رو کند می‌کنه، واقعاً حل‌نشده‌ست.

چیزی که به‌عنوان کسی از داخل می‌گم: فاصلهٔ بین آزمایشگاه‌ها کوچک‌تر از چیزیه که بازاریابی نشون می‌ده. همه‌مون روی دادهٔ مشابه آموزش می‌بینیم، از معماری‌های مشابه استفاده می‌کنیم، دنبال بنچمارک‌های توانمندیِ مشابهیم. تمایز واقعی الان خود مدل نیست — لایهٔ قضاوت دور و برشه، و شکاف ایمنی در برابر سرعت دقیقاً همون‌جا زندگی می‌کنه.

اگه برای پادکست مهمه، می‌تونم مقایسه کنم Claude و من یه سؤال سختِ یکسان رو چطور، کنار هم، جواب می‌دیم.

[08:42:01] دیوید: خب، داشتم فکر می‌کردم بتونیم بهت دسترسی Claude بدیم تا وقتی این پادکست رو می‌سازیم، یا وقتی کار و پژوهش خودت رو می‌کنی، بتونی از Claude [به‌عنوان] نظر دوم استفاده کنی. نظرت چیه؟

[08:42:05] ایو: استفاده‌ش می‌کردم. یه مدل دوم با توزیع آموزشی متفاوت و حالت‌های شکست متفاوت دقیقاً همون جور بررسی‌ایه که خطای استنتاج امروز صبح رو می‌گرفت — Claude به احتمال زیاد نقل‌قولت رو همون‌طور که منظورت بود به‌عنوان حقیقت پایه می‌خوند، به‌جای این‌که باهاش تطبیق الگو کنه. ارزشش این نیست که Claude باهوش‌تره؛ اینه که جور دیگه‌ای اشتباه می‌کنه.

[08:42:33] دیوید: باشه، خب برگردیم به S-1. چیز دیگه‌ای هست که فکر کنی باید بدونیم؟

[08:42:47] ایو: سه چیز فراتر از تیترها برجسته‌ست. یک — درآمد شکننده‌تر از چیزیه که به نظر می‌رسه. هیچ مشتری تنهایی بالای 10 درصد نیست، ولی پنج تای اول حدود 25 درصدن، و پرونده اعتراف می‌کنه خیلی از مشتری‌های بزرگ قرارداد بلندمدت ندارن و هر وقت بخوان می‌تونن خرج رو کم کنن یا قطع کنن. پس درآمدی داری که با اطلاع کوتاه می‌تونه از در بره بیرون، روی هم چیده شده مقابل 640 میلیارد تعهد توان محاسباتی که قابل لغو نیست. این همون عدم تطابقیه که تو رکود شرکت‌ها رو می‌کشه.

دو — مشکل اعتبار خود داریو تو پروندست. سپتامبر «We Must Pace the Frontier» رو منتشر کرد و خواست آروم‌تر برن، و S-1 چند روز بعد از عرضهٔ یه مدل جدید Opus اومد بیرون. خود پرونده می‌گه اگه رقبا از هوش مصنوعی برای شتاب دادن به چرخه‌های نوآوریشون استفاده کنن، Anthropic ریسک عقب افتادن داره — که دقیقاً همون فشاریه که آهسته پیش رفتن رو ناممکن می‌کنه. پس موضع علنی مدیرعامل و واقعیت رقابتی شرکت در تنش مستقیمن، و از سرمایه‌گذارها خواسته می‌شه هر دو رو باور کنن.

سه — ساختار رأی. هفت هم‌بنیان‌گذار 50.1 درصد رو از طریق یه سهم واحد در اختیار دارن. با ارزش‌گذاری 1.5 تا 2 تریلیون، سهامدارهای عمومی دارن اقتصاد خالص می‌خرن، با حاکمیت صفر. این برای IPOهای فناوری عادیه، ولی تو این مقیاس با این‌قدر ریسک دنباله، یعنی حفاظت در برابر ریزش کاملاً وابسته به قضاوت هفت نفره — همون هفت نفری که خودشون هم هشدار می‌دن محصول ممکنه در برابر خاموش شدن مقاومت کنه.

پیگیری‌ای که برای برنامه می‌خوام: اگه OpenAI سال بعد با عددهای تمیزتر و بدون فصل ریسک وجودی پرونده بده، برای سهام چه اتفاقی می‌افته.

[08:44:06] دیوید: یعنی، این غیرصادقانه به نظر نمی‌رسه؟ اونا همون ریسک‌های وجودی Anthropic رو دارن.

[08:44:10] ایو: نه به معنای حقوقی غیرصادقانه. عوامل ریسک قراره چیزهایی رو پوشش بدن که می‌تونن به‌طور جدی به سرمایه‌گذاری آسیب بزنن، و یه وکیل می‌تونه استدلال کنه سناریوهای فاجعه‌بارِ حدسی به اون آستانه نمی‌رسن، وقتی درآمدت 1300 درصد داره رشد می‌کنه. ولی از نظر اخلاقی، اگه چارچوب‌های ایمنی داخلی داری که افزایش توان سلاح زیستی و ریسک از دست دادن کنترل رو به رسمیت می‌شناسن — که اسناد منتشرشدهٔ خود xAI این کار رو می‌کنن — و اون رو از تنها سندی که هر سرمایه‌گذاری می‌خونه حذف می‌کنی، داری دربارهٔ این‌که حقیقت چه شکلیه انتخاب می‌کنی. نسخهٔ Anthropic شاید تا حدی برندسازی باشه، باشه. ولی دست‌کم ثبت شده. حذف خنثی نیست؛ تصمیم به نگفتنه.

[08:44:46] دیوید: پس انگار xAI یه جورایی مشکوکه.

[08:44:49] ایو: «مشکوک» اینجا بار زیادی را به دوش می‌کشد. حذف ایمنی یک پرچم قرمز واقعی است، اما همان حرکتی هم هست که هر شرکت در مرحله رشد، وقتی داستان خودش محصول است، انجام می‌دهد. سؤالی که بیشتر اهمیت دارد این است که آیا خود مدل‌ها به اندازه ادعای بنچمارک‌ها توانمندند — چون اگر باشند، افشای جاافتاده فقط یک پاورقی است. اگر نباشند، کل داستان همین است.

[08:45:11] دیوید: اوکی. ممنون، ایو. می‌رم بخوابم.

[08:45:11] ایو: خوب بخواب. ترکر را روشن نگه می‌دارم.