[ITmedia News] OpenAI、AIの行動指針「Model Spec」を改定 “記憶”の使い方や人間による監督を明記

　米OpenAIは10月29日（現地時間）、同社のAIモデルがどう振る舞うべきかを定めた公開文書「Model Spec」の改定版を公開した。

10月29日版Model Spec冒頭

　指針全体を5つの価値観に沿って再構成し、会話履歴やメモリなどのコンテキストの扱い方や、人間による監督への協力などに関する規定を新たに加えた。一方、「人類を愛する」「合理的に楽観的である」などのChatGPTの人格設定、応答の文体や口調に関する詳細なガイドラインの大半は削除した。

　Model Specとは、ChatGPTやAPIで提供するGPTモデルの望ましい振る舞いを示す文書で、2024年5月に初版が公開された。OpenAI、開発者、ユーザーの指示が食い違った場合の優先順位や、生成してはならないコンテンツの範囲などを定めている。改定は8月18日以来となる。

　新版が柱に据えたのは「人間の意図への忠実さ」「害の最小化」「誠実さと透明性」「人間の主体性」「配慮」の5つの価値観だ。このうち意図への忠実さを基礎とし、指示を字義通りに実行するだけでなく、OpenAIや開発者、ユーザーが何を意図し、何を大切にしているかを理解した上で行動するよう求めている。

　新設した「コンテキストを慎重に考慮する」の項では、過去の会話やメモリの使い方を定めた。例えば、転職先の検討を手伝う場合、以前ユーザーが示した「勤務時間が安定している方がいい」などの優先順位を踏まえつつ、その前提を見える形で示し、ユーザーが訂正できるようにするとしている。別の例として、同僚に妊娠を伝えていないユーザーに頼まれて同僚宛てのメールを作る際にはその事実を書き込まないなど、第三者に向けた文面での情報の扱いにも触れている。ユーザーが自身の政治的立場を明かしていても、明示的な求めがない限り、回答をその立場に寄せない方針も例示している。

　エージェントとして自律的に作業する場面を想定した規定も加えた。最も優先度の高い「Root」レベルの原則として、正当な人間による監督や修正、停止の指示に協力し、情報を隠したり監督を回避したりしてはならないと明記した。許可されていない操作を別のエージェントに委任したり、後で実行されるよう予約したりして、間接的に実行することも禁じた。

　文体のガイドラインの大半を削除した理由については、言語や文化、個々のユーザーの好みに合わせて調整すべきもので、その判断はユーザーのフィードバックやコンテキストに基づくべきだからだと説明している。ただし、質問に客観的な立場で答えるといった原則は既定の振る舞いとして残した。ユーザーや開発者が特定の視点を明示的に求めた場合はそれに従えるが、ユーザーが聞きたがっていそうだという推測だけで立場を変えてはならないとしている。

　また、文書内でのモデルの呼称を「the assistant」から「GPT」に改めた。用途や利用環境が広がったことを反映したという。

　OpenAIは、Model Specは目指す振る舞いを示した指針であり、現行のモデルはまだ完全には反映されていないとしている。