2023 年に大規模な言語モデルを検討するアプリケーションのトップ 10
大規模言語モデル (LLM) は、膨大な量のテキスト データ (この場合は、何千万もの公的にアクセス可能な Github コード リポジトリ) でトレーニングされたディープ ラーニング アルゴリズムです。 Github の Copilot 製品は、大規模言語モデル (LLM) アプリケーションの一例です。 Copilot は、コーディング インターフェイス内でコード行を完成させる方法を提案したり、平文の記述から複数行のコードを生成したりする方法を提案します。 Copilot は OpenAI の Codex の LLM で構築されており、自然言語をさまざまな一般的なプログラミング言語に変換します。
他にも有名な LLM プログラムをいくつか聞いたことがあるかもしれません。 Google の LaMDA は対話生成の専門家です。 Google の LaMDA に関する長期的な目標は、顧客が尋ねるだけで Google の製品からあらゆる種類の情報 (テキスト、画像など) を取得できる会話型インターフェースを強化することです。つまり、非常にインテリジェントなチャットボットです。 この記事では、2023 年の大規模言語モデルのアプリケーション トップ 10 について説明しました。この記事を読むと、大規模言語モデルのアプリケーションについて詳しく知ることができます。
1. 技術リスク
GPT-3 は、他のコピーライティング世代のスタートアップの実行可能性 (およびコスト) を示していますが、より競争力のある市場が必要です。 さらに、OpenAI などの大企業の API を使用してアプリケーションを構築することを決定し、代替手段がない場合は、その価格決定力と製品 SLA に従うことになります。 このダイナミクスがどのように展開するかについてのさらなる考察は、この投稿の最後に含まれています。
LLM には既知の問題があり、精度を向上させ、幅広い入力に対する能力を説明するための研究が進行中です。 たとえば、GPT-3 と Codex は、特に敵対的なユーザーに直面した場合に、偏った言語や安全でない、または正しくないコードを出力することがあります。 ただし、多くのユーザーがモデルを有用であると考えるのに十分な時間は正確です。
2.コピーライティング
最もよく知られているモデルは GPT-3 ですが、BLOOM (BigScience から) や Eleuthera AI の GPT-J などのオープンソースの代替モデルもあります。 Copy AI、Copysmith、Contenda、Cohere、および Jasper AI は、この分野でアプリケーションを開発しているスタートアップの 1 つであり、ブログ、販売、デジタル広告、および Web サイトのコピーの作成を高速化する製品を備えています。
3. シェル コマンドの生成
次世代端末である Warp は、GPT-3 を使用して、自然言語を実行可能なシェル コマンドに変換します。これは、「GitHub Copilot ですが、端末用です」とよく似ています。 経験豊富なエンジニアでさえ、シェル コマンドを混乱させることがあります。
4. データベース クエリの最適化
Ottertune は、予期しない問題につながる可能性のあるキャッシュ ミスやインデックスの欠落などのデータベースの問題を検出して解決します。 Ottertune がこれに LLM を使用しているかどうかはわかりませんが、可能な LLM の使用例として他のユーザーと話し合ったものです。
5. ウェブサイトの生成
Pygma は、Figma の設計を高品質のコードに変換するツールです。 CodeGen に対する Salesforce の長期的なビジョンには、ユーザーが会話して Web サイトを設計および生成できるようにすることが含まれます。
6.General Software Tool Assistant
Adept AI のビジョンは、あらゆるソフトウェアのワークフロー手順を提案し、本質的にユニバーサルな副操縦士/アシスタントになることです。 ここに初期の結果を示す素晴らしいデモがあります。 Character AI と Inflection AI も、ホームページの説明に基づいてこの分野で開発されている可能性がありますが、現時点ではほとんど知られていません。
7. 翻訳
メタは、以前に達成されたよりも高い品質で、以前に試みられたものの 2 倍の 204 の異なる言語を翻訳するために研究しました。
8. 製品の洞察
Viable、Enterpret、Cohere、および Anecdote は、ユーザーからのフィードバック (サポート チケット、調査、分析など) を整理し、将来の製品開発のための実用的な洞察にまとめます。
9.SQL生成
Cogram は平易な英語をデータベース クエリに変換し、技術者以外のユーザーが SQL を記述せずにデータとビジネスの洞察を取得できるようにします。
10. コード生成
最も人気のあるモデルは Codex (Copilot を強化する) ですが、Salesforce の CodeGen にはオープンソースの代替手段があります。 Tabnine、Codiga、Mutable AI は、アプリケーションを開発しているスタートアップの 1 つです。 Copilot に関するフィードバックの大部分は肯定的なものでしたが、モデルの自己ホストまたは微調整、ワークフローのカスタマイズ、フロントエンド フレームワークとテスト生成に関する Codex の問題の修正など、いくつかの不満もありました。