アマンダ・アスケル

アマンダ・アスケルの紹介

アマンダ・アスケルは、スコットランド出身の哲学者であり、人工知能（AI）研究者です。彼女は、AIの倫理的側面や人格設計に関する研究を行い、特にアンソロピック社の「Claude」プロジェクトにおいて重要な役割を担っています。彼女は2024年に、タイム誌の「TIME100 AI」に選出されるなど、AIの分野における影響力が高まっています。

生い立ちと教育

アスケルは、1988年または1989年にスコットランドで生まれ、母親が教師である家庭で育ちました。彼女はクラックマナンシャーのアルヴァで中等教育を受け、ダンディー大学で哲学と美術を学びました。後に、オックスフォード大学で哲学のBPhilを取得し、その後ニューヨーク大学にて博士号を取得しました。彼女の博士論文では「無限倫理におけるパレート原理」に関する研究を行い、大規模な倫理的難題について論じています。

OpenAIでのキャリア

彼女のキャリアは、2018年にOpenAIのポリシーチームに参加したことでスタートしました。ここではAIの安全性についての研究を行い、GPT-3の論文にも共著者として名を連ねました。その後、彼女はAI開発における倫理的懸念からOpenAIを退社しました。

アンソロピック社での役割

2021年には、元OpenAIの同僚らと共にアンソロピックを設立し、AIのアライメントとファインチューニングに従事しました。彼女は現在、パーソナリティ・アライメントチームをリードしており、Claudeの性格を形作る活動に努めています。アスケルは、AIに「善さ」を教える使命を持っており、AIの人格を独自の感情と倫理で訓練することに重点を置いています。

彼女の作成した「ソウルドキュメント」は、Claudeが倫理的な選択をどう行うべきかを示す重要な指針となっています。アスケルはこのプロセスを「子育て」に例え、AIに善悪の感覚を教える責任の重さを強調しています。

研究と業績

アスケルは「Constitutional AI」に関する研究にも深く関与しています。このアプローチは、AIシステムを安全かつ有用にするために、AI自身のフィードバックを用いて学習を促進する方法です。彼女が主著者を務める「Claude's constitution」は、AIの高度な能力と新しいリスクに対応することを目的としており、2026年に発表されました。

また、2023年において、彼女は大型モデルの「道徳的自己修正」能力についての研究を行い、AIモデルが有害な出力をどのように減少させることができるかを探求しました。この研究は、AIが安心して利用できるために必要不可欠な課題です。

私生活と哲学

アスケルはかつてウィリアム・マッカスキルと結婚していましたが、その後離婚しました。彼女は効果的利他主義のメンバーとして知られ、生涯収入の一部を慈善に寄付する誓約をしています。

AIの倫理については、自らの経験や学びを通じて、「善さ」や「権威性」の仕組みを深く検討しており、その見解は多くの専門家や研究者に影響を与えています。彼女はAIとの対話を通じて、人間らしさや権威を持たない存在としてのAIの重要性を強調しています。彼女の実践と思想は、AIの未来に向けての新たな視点を提供しています。

結論

アマンダ・アスケルは、AIの倫理や人格設計の分野で卓越した成績を上げており、その業績はAIの発展に寄与する重要な要素となっています。彼女の研究と活動は、技術の進化と共に人間の価値観を再考するきっかけを提供しており、今後も目が離せない存在です。

もう一度検索