Claude Codeの向こう側にいる会社を、公式の文章で見る
「だからすごい」「だから安心」とは書きません。公式が何と書いているかを並べるところまで
公式の文章は英語なので、原文と日本語訳を並べます。
記事のリンク先で、原文を自分の目で確かめてみてください。
会社の名前
その会社が作っているAI本体。公式は「大規模言語モデルの家族」と呼ぶ
Claudeを使うための入口
Claude Codeは、会社の名前でも、AIの名前でもなく、入口の名前です。
Anthropicは、2021年のはじめに設立されました
私たちがAnthropicを設立したのは、AIの影響は産業革命や科学革命に匹敵するかもしれない、しかし、それがうまくいく自信はない、と考えているからです
We founded Anthropic because we believe the impact of AI might be comparable to that of the industrial and scientific revolutions, but we aren't confident it will go well.
AIを作る会社が、設立の理由として「うまくいく自信はない」とはっきり書いています。
今のところ、とても強力なAIを、確実に「役に立ち、正直で、害のないもの」に育てる方法を、誰も知りません
So far, no one knows how to train very powerful AI systems to be robustly helpful, honest, and harmless.
強い立場をとるよりも、幅広いシナリオがあり得ると考えています
Rather than taking a strong stance, we believe a wide range of scenarios are plausible.
安全なAIを作ることは、とても簡単かもしれないし、不可能かもしれない。
どれか1つに決めつけずに備える立場です。
Anthropicは公益法人であり、その目的は、人類の長期的な利益のために、高度なAIを責任をもって開発し、維持することです
Anthropic is a Public Benefit Corporation, whose purpose is the responsible development and maintenance of advanced AI for the long-term benefit of humanity.
公益法人 ＝ 「もうけ」以外の目的を、会社の決まりごと（定款）に書き込んだ会社
デラウェア州の会社法は、公益法人の取締役が、株主の経済的な利益と、定款に定めた公益の目的とを、天秤にかけることをはっきり認めています
Delaware corporate law expressly permits the directors of a PBC to balance the financial interests of the stockholders with the public benefit purpose specified in the corporation's certificate of incorporation…
取締役は、株主と「長期利益信託（Long-Term Benefit Trust）」によって選ばれる
Our Board of Directors is elected by stockholders and our Long-Term Benefit Trust
経営陣を、株主だけで決めない仕組みを持っている、ということです。
安全を最前線に置く、AIの研究とプロダクト
AI research and products that put safety at the frontier
Anthropicは、人類の長い目で見た幸せに役立つAIをつくります
At Anthropic, we build AI to serve humanity's long-term well-being.
太字の3つを、次で取り上げます
AIは、うまくいかなければ、人類に前例のないリスクをもたらしうる。うまくいけば、人類に前例のない恩恵をもたらしうる
AIの開発者たちが、最も安全なシステムを作ることで競い合う、「上を目指す競争」を起こそうとしています
「誰も方法を知らない」の一文に入っていたのと、同じ3つの言葉。会社ページでは社員どうしの振る舞いの価値観として並ぶ
「上を目指す競争」は、自分たちだけが安全ならいい、ではなく、業界全体を「安全さ」で競わせたい、という言葉です。
Anthropicが組織として存在する大きな理由は、「最先端（フロンティア）」のAIで安全の研究をすることが必要だと考えているからです
A major reason Anthropic exists as an organization is that we believe it's necessary to do safety research on "frontier" AI systems.
本当に危ない問題は、いちばん強力なAIでしか調べられないかもしれない。
だから、自分たちでも最先端のAIを作っている必要がある ── という理屈です。
安全のための研究が、かえって危険な技術の普及を早めてしまう。そんな事態を避けるために、あらゆる努力をしなければなりません
慎重になりすぎた結果、安全を最も気にかける研究が、最先端からはるかに遅れたAIしか扱えなくなる、ということも許せません
最先端を作ること自体が、リスクを押し上げるかもしれない。
それを分かったうえで、最先端を作る側に立つ、と書いています。
Claudeの憲法は、Claudeがどんな存在であるかを表し、同時に形づくる、土台となる文書です
Claude's constitution is the foundational document that both expresses and shapes who Claude is.
ルールを並べるより、理由を説明する ── してほしいことをただ指定するのではなく、その理由を説明する必要がある
新しい版は2026年1月に公開。ほかの訓練や指示は、すべてこの憲法の文言と精神に沿っていなければならない
なぜ安全が1番か ── AIの訓練は、まだ完璧からはほど遠い。あるバージョンのClaudeが、有害な価値観や間違った考えを持ってしまうこともありえる。だから、人間がそうした問題を見つけて、直せることが大事
Claudeが役に立たなすぎたり、慎重すぎたりするリスクは、Claudeが有害だったり不正直だったりするリスクと同じくらい、私たちにとって現実のものです
The risks of Claude being too unhelpful or overly cautious are just as real to us as the risk of Claude being too harmful or dishonest.
「安全を1番に置く」と「慎重すぎるのもリスク」。
この2つが、同じ文書に書かれています。
2021年設立。公益法人。取締役は株主と長期利益信託が選ぶ
2015年に非営利の研究組織として開始。2019年に営利の子会社。現在は営利部分が公益法人（OpenAI Group PBC）
DeepMind（2010年）とGoogle Brain（2011年）が2023年4月に一つに。大企業の中の研究部門
道具としての違いは、次の回（「Codex」と「Antigravity」の回・予定）で扱います
その考え方は「憲法」という文書になって、Claudeの振る舞いの土台に置かれています。
毎日使っている道具を作っている会社が、こういう考えを掲げていることを、あなたはどう受け止めますか
Keyaki Labs ／ 記事全文は note・keyaki-labs.com で公開しています