GPT-4

GPT-4 (Generative Pre-trained Transformer 4)

GPT-4は、OpenAIによって開発された最新のマルチモーダル大規模[[言語モデル]]です。2023年3月14日にリリースされ、自然言語処理にTransformerアーキテクチャを利用、教師なし学習を経た後に人間からのフィードバックを反映した強化学習（RLHF）によって性能を向上させています。

概要

OpenAIは、その発表記事で「GPT-4はGPT-3.5に比べ、より創造的かつ信頼に足る能力を持ち、より細かな指示にも応えることができる」と述べています。特に、GPT-4は一度に25000語以上のテキストを処理できる能力を備えており、これは前のバージョンからの大きな向上を示しています。また、OpenAIは安全性や競争上のリスクを考慮し、モデルのパラメータ数などの詳細を開示していないため、正確なパラメータ数は不透明です。報道によれば、GPT-3のパラメータは1750億ですが、GPT-4は100兆とされることもありますが、OpenAIはこれを否定しています。

透明性の問題

OpenAIのアプローチは、これまでのオープンソースの方針とは対照的で、現在のAIモデリング業界全体での透明性問題を反映しています。多くの研究者からは、閉鎖的な知識共有がバイアスを助長し、安全性に悪影響を及ぼすとの批判があります。具体的には、OpenAIの共同設立者であるイーロン・マスクが、「OpenAIの原則が失われている」と述べたり、アラン・チューリング研究所の研究者が「会社名を『Closed AI』に変更すべき」と主張するなど、強い非難が寄せられています。対して、OpenAIのイリヤ・スツケヴェルは、よりよい未来を見据えた上での判断であると説明しています。

性能

GPT-4は、人間と同様のテストにおいて高い成績を収めています。たとえば、司法試験では上位10%に位置し、SATでは1410点を取得しました。また、医師試験USMLEの3段階を突破し、合格点を20点上回る結果を残しています。これらは特別な訓練なしで達成されたものであり、その能力の高さを示しています。

プログラミング能力

GPT-4は指示に基づいてソースコードを生成することができ、例えばJavaScriptで「テトリス」や「ポン」を作り出すことができます。その速度は非常に速く、60秒から90秒での完成が可能です。

汎用人工知能への道

ただし、OpenAIはGPT-4の能力にはまだ改善の余地があることを認めています。特に「ハルシネーション」と呼ばれる問題が未解決であり、そのため完全な汎用人工知能には至っていないと見られています。それにも関わらず、マイクロソフトの研究者はこのモデルが人類の能力に近づいていると評価し、汎用人工知能に至る道のりの第一歩であると位置付けています。

使用方法

GPT-4はChatGPT PlusユーザーやAPIを通じて利用可能で、Microsoft Copilotにも採用されています。今後はMicrosoftの各種アプリケーションに搭載される予定です。また、Duolingoにおいても言語学習支援に活用されています。

モデルの種類

GPT-4には以下の2種類のモデルが存在します。

• - gpt-4
• - gpt-4-32k

GPT-4はOpenAIが提供する最新技術の結晶であり、その展開はこれからも注目に値します。

もう一度検索