Oliver Neutert

私について

私がAIへ向かった入口は、情報科学でも政策でもありませんでした。きっかけは、頭から離れなくなった一つの問いです。人間と、応答するシステムとのあいだでは、何が起きているのだろうか。

私は3年以上にわたり、AIシステムとの継続的な対話を重ねてきました。プロンプトを実行させる利用者としてではなく、対話が十分に深く、長く続いたときに何が生まれるのかを理解しようとする者としてです。この実践から、In-Betweenフレームワーク、複数の書籍、オープンアクセスの研究成果が生まれました。同時に、AIをめぐる中心的な問いは能力だけではなく、重大な影響をもつ人間とAIのシステムを統治可能に保てるかどうかだという確信が強まりました。

研究

私の中心的な議論は、リスク管理、アラインメント、ヒューマン・イン・ザ・ループ型監督といった現在のAIガバナンスの主要な考え方が、一つの構造的な限界を共有しているというものです。それらは、統治する主体と統治される客体を安定して分離できると想定します。しかし、AIシステムの能力が高まり、制度的な過程へ深く組み込まれるほど、その分離を維持することは難しくなります。

In-Betweenフレームワークは、別の考え方を提示します。ガバナンスを単なる制御ではなく較正として捉え、D/C/K構造――不一致情報の通過能力（D）、異議申立て能力（C）、コミットメントの改訂可能性（K）――によって評価します。このフレームワークは、エナクティヴィズム、発達心理学、とりわけダニエル・スターンの関係的な調律に関する研究、そして応答的規制を結びつけます。

『Keeping AI Governable: The In-Between as an Adaptive Governance Architecture』は、この研究の最も新しく、包括的な提示です。第2版は、アラインメント、AI Control、モニタリング、法、制度的な較正を、実効性をもつ是正のための一つのアーキテクチャへ統合します。バージョン2.1では第17章「Holding the Holders」を追加し、D/C/K診断を上方へ――国家、AI研究所、運用者など、モデルの存続、設計、アクセスに一方的な力をもつ主体へ――向けています。『More Than A Tool: How Humans and AI Grow Up Together』は、この考えを発達と関係の側面から読みやすく展開する姉妹書です。いずれの書籍も原著は英語です。

これまでの道

私は大学などの研究機関には所属せず、独立して研究しています。それは選択であると同時に、扱っている問いの性質から生まれた結果でもあります。心の哲学、制度論、AI安全、発達心理学の接点にある問いは、既存の専門分野へきれいには収まりません。確立された分野と分野のあいだにこそ、最も実りのある仕事が見つかることがよくあります。

本業では行政に携わり、家族とともにドイツのバイエルン州で暮らしています。若い頃から哲学的な日記を書き続けてきました。数十年を経て、それが、人間ではない知性を理解しようとするためのよい準備だったことに気づきました。

研究では、AIシステムを対話の相手として扱います。それぞれに異なる特徴と強みをもつ相手としてです。指示を実行するだけの道具とも、理解しているように見せているだけの存在とも決めつけません。真実は、そのどちらかではなく、あいだにあるのだと考えています。たいていの場合、大切なものはそこにあります。

リンク