持ってる

AWS がコーディングアシスタント CodeWhisperer を Lambda コンソールに追加

AWS は最近、AWS Lambda コンソールでの Amazon CodeWhisperer のプレビューを発表しました。 コード エディターのネイティブ コード提案機能として利用できるコーディング アシスタントの新機能により、Lambda 関数の定義中にコードの提案を行うことができます。 現在 Python、Java、および JavaScript をサポートしている CodeWhisperer は、機械学習を利用したコード ジェネレーターであり、リアルタイムでコードの推奨事項を提供し、6 月にプレビューで開始されました。 Lambda コンソールでアクティブ化すると、既存の関数とコメントに基づいて提案が生成されます。 AWS のシニア ソリューション アーキテクトである Mark Richman は、次のように説明しています。 コンソールで AWS Lambda 関数を記述すると、CodeWhisperer はコードとコメントを分析し、指定されたタスクに最適なクラウド サービスとパブリック ライブラリを判断し、ソース コード エディターで直接コード スニペットを推奨します。 CodeWhisperer が提供するコードの推奨事項は、Amazon やオープン ソース コードなど、さまざまなデータ ソースでトレーニングされた ML モデルに基づいています。 ソース: https://aws.amazon.com/blogs/compute/introducing-amazon-codewhisperer-in-the-aws-lambda-console-in-preview IDE ツールキット拡張機能 (JetBrains、Visual Studio Code、および AWS …

AWS がコーディングアシスタント CodeWhisperer を Lambda コンソールに追加 Read More »

Meta が Galactica の「Science」モデルをローンチ後に突然撤回

Meta は 11 月 15 日に Galactica と呼ばれる新しい言語モデルを発表しましたが、激しい批判を受けて、わずか 3 日後に一般に使用するよう促したというデモを撤回しました。 Galactica は、3 億 6000 万件を超えるコンテキスト内引用と、さまざまなソースからの 5000 万件を超える固有の参照を含む大規模なコーパスでトレーニングされました。 科学記事、教科書、百科事典の 4,800 万件の例を使用して、Galactica は引用を提案し、関連論文の発見を支援することになっていました。 私が理解しているサイトで提供されている例を見たところ、Galactica はプログラミング コードを平易な英語で説明したり、単純なコード ブロックを Python、JavaScript、C++ などのプログラミング言語間で翻訳したりできることがわかりました。 では、なぜ取り下げられたのでしょうか。 大きな言語モデルの問題 Galactica は、他のすべての大規模言語モデル (LLM) を悩ませているのと同じ問題に苦しんでいたことが判明しました。それは、生成しているものの背後にある科学を理解していませんでした。 これは、真実と虚偽を区別できず、誤った主張につながることを意味していました。 で報告されているように、 MITテクノロジーレビュー、偽のウィキ記事を生成するなど、実際の著者に起因することがある偽の論文で構成されていました. の 1 つの引用 MITテクノロジーレビュー 状況をまとめたレポートは、ワシントン大学の准教授である Chirag Shah からのものでした。 シャーは次のように述べています。 これらのことを実証することになると、それらはとても幻想的で、魔法的で、知的に見えます. しかし、人々は、原則として、そのようなことは私たちが誇大宣伝する方法ではうまくいかないということをまだ理解していないようです。」 一部の科学者も強く反対しています。 統合モデリング言語を共同開発したソフトウェア エンジニアの Grady Booch 氏は、Twitter に次のように書いています。 楽しい。 …

Meta が Galactica の「Science」モデルをローンチ後に突然撤回 Read More »

Google の Code-as-Policy により、ロボットは独自のコードを記述できます

Google のロボティクス チームの研究者は、大規模言語モデル (LLM) を使用してユーザー指定の目標を達成するロボット制御コードを生成するロボット制御方法である Code-as-Policies (CaP) をオープンソース化しました。 CaP は、HumanEval コード生成ベンチマークで以前の方法よりも優れたコード生成に階層的なプロンプト手法を使用します。 この手法と実験は、arXiv で公開された論文に記載されています。 CaP は、LLM を使用してロボットを制御する以前の試みとは異なります。 大まかな手順のシーケンスを生成する代わりに、または ポリシー ロボットによって呼び出されるように、CaP はこれらのポリシーの Python コードを直接生成します。 Google チームは、新しい階層プロンプト方式など、コード生成を改善する一連のプロンプト手法を開発しました。 この手法は、HumanEval ベンチマークで 39.8% pass@1 という新しい最先端のスコアを達成しました。 Google チームによると: ポリシーとしてのコードは、動作を変更し、それに応じて機能を拡張できるロボットへの一歩です。 これは可能ですが、合成されたプログラム (ランタイムごとに手動でチェックしない限り) が物理ハードウェアで意図しない動作を引き起こす可能性があるため、柔軟性によって潜在的なリスクも生じます。 システムがアクセスできる制御プリミティブをバインドする組み込みの安全性チェックでこれらのリスクを軽減できますが、既知のプリミティブの新しい組み合わせが同等に安全であることを確認するには、さらに多くの作業が必要です。 これらのリスクを最小限に抑えながら、より汎用的なロボットへの潜在的なプラスの影響を最大化する方法について、幅広い議論を歓迎します。 LLM は、多くの主題に関する一般的な知識を示し、幅広い自然言語処理 (NLP) タスクを解決できることが示されています。 ただし、論理的には正しいものの、ロボットの制御には役立たない応答を生成することもあります。 たとえば、「飲み物をこぼしてしまったのですが、手伝ってもらえますか?」という質問に対して、 LLM は「掃除機を使ってみてください」と答えるかもしれません。 今年初め、InfoQ は、大規模言語モデル (LLM) を使用して一連のロボット アクションを計画する Google の SayCan メソッドについて取り上げました。 LLM …

Google の Code-as-Policy により、ロボットは独自のコードを記述できます Read More »

Google の Code-as-Policy により、ロボットは独自のコードを記述できます

Google のロボティクス チームの研究者は、大規模言語モデル (LLM) を使用してユーザー指定の目標を達成するロボット制御コードを生成するロボット制御方法である Code-as-Policies (CaP) をオープンソース化しました。 CaP は、HumanEval コード生成ベンチマークで以前の方法よりも優れたコード生成に階層的なプロンプト手法を使用します。 この手法と実験は、arXiv で公開された論文に記載されています。 CaP は、LLM を使用してロボットを制御する以前の試みとは異なります。 大まかな手順のシーケンスを生成する代わりに、または ポリシー ロボットによって呼び出されるように、CaP はこれらのポリシーの Python コードを直接生成します。 Google チームは、新しい階層プロンプト方式など、コード生成を改善する一連のプロンプト手法を開発しました。 この手法は、HumanEval ベンチマークで 39.8% pass@1 という新しい最先端のスコアを達成しました。 Google チームによると: ポリシーとしてのコードは、動作を変更し、それに応じて機能を拡張できるロボットへの一歩です。 これは可能ですが、合成されたプログラム (ランタイムごとに手動でチェックしない限り) が物理ハードウェアで意図しない動作を引き起こす可能性があるため、柔軟性によって潜在的なリスクも生じます。 システムがアクセスできる制御プリミティブをバインドする組み込みの安全性チェックでこれらのリスクを軽減できますが、既知のプリミティブの新しい組み合わせが同等に安全であることを確認するには、さらに多くの作業が必要です。 これらのリスクを最小限に抑えながら、より汎用的なロボットへの潜在的なプラスの影響を最大化する方法について、幅広い議論を歓迎します。 LLM は、多くの主題に関する一般的な知識を示し、幅広い自然言語処理 (NLP) タスクを解決できることが示されています。 ただし、論理的には正しいものの、ロボットの制御には役立たない応答を生成することもあります。 たとえば、「飲み物をこぼしてしまったのですが、手伝ってもらえますか?」という質問に対して、 LLM は「掃除機を使ってみてください」と答えるかもしれません。 今年初め、InfoQ は、大規模言語モデル (LLM) を使用して一連のロボット アクションを計画する Google の SayCan メソッドについて取り上げました。 LLM …

Google の Code-as-Policy により、ロボットは独自のコードを記述できます Read More »

科学知識のための大規模な言語モデル

Meta AI と Papers with Code は最近、1200 億のパラメーターを持つ科学言語モデルである Galactica をリリースしました。このモデルは、学術文献の検索と要約、数学の問題の解決、科学コードの作成を行うことができます。 Galactica のアーキテクチャは、入力と出力の間のグローバルな依存関係を引き出すアテンション メカニズムであるトランスフォーマーに基づいています。 ただし、このモデルは、いくつかの変更を加えたデコードのみのセットアップです。 元のトランスフォーマーと比較したいくつかの変更には、活性化関数としての GeLU の使用、位置埋め込みの学習、バイト ペア エンコーディング メソッドを使用したボキャブラリ、およびデンス カーネルまたはレイヤー ノルムのバイアス パラメーターがないことが含まれます。 研究者は、さまざまなモダリティ (自然言語、数式、分子配列など) を使用したトークン化プロセスを使用してモデルをトレーニングしました。 彼らは、数学演算の文字を識別したり、さまざまな種類のシーケンスの開始/終了をマークしたりするなど、特別なトークン化を使用しました。 データセットのソース資料には、4,800 万の論文、教科書、参考資料、化合物、タンパク質、およびその他の科学的知識のソースが含まれていました。 彼らは、段階的な推論のセクションを特定するための特別なトークンを実装しました。これにより、Galactica は内部ワーキング メモリを適用するようになりました。 昨年、何十億ものパラメーターを備えた複数の大規模言語モデル (LLM) がリリースされましたが、それ自体は科学分野に特化したものではありません。 Galactica の論文でベンチマークされたモデルには、OPT、BLOOM、GPT-3、チンチラ、PaLM などがあります。 Galactic は推論で優れたパフォーマンスを発揮し、数学的 MMLU データセットでは Chinchilla を 41.3% から 35.7% 上回っており、数学では PaLM-540B を 20.4% 対 8.8% のスコアで上回っています。 一般的なコーパスでトレーニングされていないにもかかわらず、Galactica …

科学知識のための大規模な言語モデル Read More »

人工知能はビジネスの言語を話す必要があるが、その逆ではない

AIのビジネスはビジネス ゲッティ 地球上のほぼすべてのビジネス リーダー (94%) は、今後 5 年間の成功には AI が不可欠になると考えています。 それでも、AI の現状に関する Deloitte の最新の調査で判明したように、多くの企業は依然として期待した価値を達成していません。去年。 デロイトの調査によると、AI の影響を弱めている問題には、ビジネス価値を向上させるための課題や、経営陣の完全なコミットメントの欠如が含まれます。 業界のリーダーと現場のオブザーバーは、進歩を妨げているのは技術的な問題ではなく、これらの組織の問題であることに同意しています。 重要な点は、AI は顧客にサービスを提供する必要があり、ビジネスが顧客を最前線と中心に置くのを支援する必要があるということです。 ほとんどの AI プロジェクトは価値を提供できません。「正確な予測のメリット、誤った予測のコスト、マーケティング予算の規模などの制約など、ビジネスの現実から始めていないためです」と、CEO のアリジット セングプタは述べています。アイブルの創始者。 「あなたの AI プロジェクトが実験室の実験のように見え、専門家が収益、利益、コストの代わりに対数損失などについて話している場合、あなたの AI はほぼ確実に結果を出すことができません。」 重要なのは、意思決定者が AI についてより快適に知識を身につけられるようにし、AI に対する組織的なサポートを構築し、AI が顧客をどのように支援できるかに直接焦点を当て続けることです。 Boomi のチーフ エンジニアリング オフィサーである Rajesh Raheja 氏は、次のように述べています。 「たとえば、学習した実証済みのベスト プラクティスに基づいてビジネス プロセスに実装する次のステップを示すことができるレコメンデーション エンジンは、ビジネスが購入できるより多くの製品のみを表示する同じエンジンよりも、ビジネスにとってはるかに有用です。 . どちらも洗練された AI モデルを必要としますが、前者は明らかに顧客に価値をもたらします。」 ツールはありますが、それらを適用する方法がわかりません。 「AI の採用は、強力なデータ パイプラインを設定するための適切なリソースとスキルを必要とするモデルをトレーニングする努力と比較して、AI が生み出す価値と ROI …

人工知能はビジネスの言語を話す必要があるが、その逆ではない Read More »

人工知能はビジネスの言語を話す必要があるが、その逆ではない

AIのビジネスはビジネス ゲッティ 地球上のほぼすべてのビジネス リーダー (94%) は、今後 5 年間の成功には AI が不可欠になると考えています。 それでも、AI の現状に関する Deloitte の最新の調査で判明したように、多くの企業は依然として期待した価値を達成していません。去年。 デロイトの調査によると、AI の影響を弱めている問題には、ビジネス価値を向上させるための課題や、経営陣の完全なコミットメントの欠如が含まれます。 業界のリーダーと現場のオブザーバーは、進歩を妨げているのは技術的な問題ではなく、これらの組織の問題であることに同意しています。 重要な点は、AI は顧客にサービスを提供する必要があり、ビジネスが顧客を最前線と中心に置くのを支援する必要があるということです。 ほとんどの AI プロジェクトは価値を提供できません。「正確な予測のメリット、誤った予測のコスト、マーケティング予算の規模などの制約など、ビジネスの現実から始めていないためです」と、CEO のアリジット セングプタは述べています。アイブルの創始者。 「あなたの AI プロジェクトが実験室の実験のように見え、専門家が収益、利益、コストの代わりに対数損失などについて話している場合、あなたの AI はほぼ確実に結果を出すことができません。」 重要なのは、意思決定者が AI についてより快適に知識を身につけられるようにし、AI に対する組織的なサポートを構築し、AI が顧客をどのように支援できるかに直接焦点を当て続けることです。 Boomi のチーフ エンジニアリング オフィサーである Rajesh Raheja 氏は、次のように述べています。 「たとえば、学習した実証済みのベスト プラクティスに基づいてビジネス プロセスに実装する次のステップを示すことができるレコメンデーション エンジンは、ビジネスが購入できるより多くの製品のみを表示する同じエンジンよりも、ビジネスにとってはるかに有用です。 . どちらも洗練された AI モデルを必要としますが、前者は明らかに顧客に価値をもたらします。」 ツールはありますが、それらを適用する方法がわかりません。 「AI の採用は、強力なデータ パイプラインを設定するための適切なリソースとスキルを必要とするモデルをトレーニングする努力と比較して、AI が生み出す価値と ROI …

人工知能はビジネスの言語を話す必要があるが、その逆ではない Read More »

KAUST アカデミーの成功に基づく構築: カリン

アリ・マッキ スワル — ジェッダ北部のトゥワルにあるキング アブドラ科学技術大学 (KAUST) は最近、サウジアラビアで継続的な学習環境を提供することを目的として KAUST アカデミーを立ち上げました。 高等教育におけるイノベーションのイネーブラーとして、アカデミーはサウジアラビアのビジョン 2030 を支援し、特に人工知能 (AI) と機械学習の分野で混合学習において世界クラスの卓越性を達成しています。 アカデミーの発足と使命について、KAUST プロボストのローレンス・カリン氏は次のように述べています。 「KAUST の最高のものを王国中の人々にもたらし、参加者が仕事や高等教育で競争力を発揮するために必要なスキルを開発できるように、非常にアクセスしやすい方法で教育を提供しています。」 サウジガゼットとのインタビューで、プロボストは、アカデミーが現在のイニシアチブでこれまでのところ望ましい成功を収めていると述べました. 現在、この成功に基づいて、国の労働市場を後押しするために設計された STEM ベースのコースの提供とトレーニングのポートフォリオを拡大していると、彼は付け加えました。 インタビューの全文は次のとおりです。 Q: 過去数か月で、サウジアラビアの開発を支援するための継続的な学習イニシアチブを提供することを使命とする KAUST アカデミーを立ち上げました。 このアカデミーの特徴は何ですか? 最初のイニシアチブで望ましい成功を収めましたか? もっている: KAUSTアカデミーの主な目的は、学問的および専門的なトレーニングを強化するために、学部生および大学院生、および初期のキャリア専門家を対象としたトレーニングコースを提供することです。 KAUST アカデミーのトレーニングは短くて凝縮されており、人工知能、機械学習、データ サイエンスの分野で、さらに STEM 科目が追加される予定です。 現在提供されているコースは、マイクロ資格コース、卒業証書、パートタイムの修士号コースです。 アカデミーはこれまでのところ望ましい成功を収めており、提供されるトレーニングを拡大するためにこれをさらに発展させ続けています。 Q: このアカデミーでの目標は何ですか? サウジの若者(男女)はどう受け止めた? エンゲージメントのレベルはどのくらいでしたか? もっている: KAUST アカデミーの主な目標は、王国で最も優れたアウトリーチ組織の 1 つにすることです。 アカデミーは、王国の大学や組織とのパートナーシップを構築し、ビジョン 2030 に沿って国家人材開発の成長に貢献することに重点を置いています。 トレーニングコースの凝縮された性質にもかかわらず、マイクロクレデンシャルコースに対する学生のフィードバックは非常に肯定的です. コースは通常 8 時間で 5 …

KAUST アカデミーの成功に基づく構築: カリン Read More »

KAUST Academy の成功に基づく構築: Carin

アリ・マッキ スワル — ジェッダ北部のトゥワルにあるキング アブドラ科学技術大学 (KAUST) は最近、サウジアラビアで継続的な学習環境を提供することを目的として KAUST アカデミーを立ち上げました。 高等教育におけるイノベーションのイネーブラーとして、アカデミーはサウジアラビアのビジョン 2030 を支援し、特に人工知能 (AI) と機械学習の分野で混合学習において世界クラスの卓越性を達成しています。 アカデミーの発足と使命について、KAUST プロボストのローレンス・カリン氏は次のように述べています。 「KAUST の最高のものを王国中の人々にもたらし、参加者が仕事や高等教育で競争力を発揮するために必要なスキルを開発できるように、非常にアクセスしやすい方法で教育を提供しています。」 サウジガゼットとのインタビューで、プロボストは、アカデミーが現在のイニシアチブでこれまでのところ望ましい成功を収めていると述べました. 現在、この成功に基づいて、国の労働市場を後押しするために設計された STEM ベースのコースの提供とトレーニングのポートフォリオを拡大していると、彼は付け加えました。 インタビューの全文は次のとおりです。 Q: 過去数か月で、サウジアラビアの開発を支援するための継続的な学習イニシアチブを提供することを使命とする KAUST アカデミーを立ち上げました。 このアカデミーの特徴は何ですか? 最初のイニシアチブで望ましい成功を収めましたか? もっている: KAUSTアカデミーの主な目的は、学問的および専門的なトレーニングを強化するために、学部生および大学院生、および初期のキャリア専門家を対象としたトレーニングコースを提供することです。 KAUST アカデミーのトレーニングは短くて凝縮されており、人工知能、機械学習、データ サイエンスの分野で、さらに STEM 科目が追加される予定です。 現在提供されているコースは、マイクロ資格コース、卒業証書、パートタイムの修士号コースです。 アカデミーはこれまでのところ望ましい成功を収めており、提供されるトレーニングを拡大するためにこれをさらに発展させ続けています。 Q: このアカデミーでの目標は何ですか? サウジの若者(男女)はどう受け止めた? エンゲージメントのレベルはどのくらいでしたか? もっている: KAUST アカデミーの主な目標は、王国で最も優れたアウトリーチ組織の 1 つにすることです。 アカデミーは、王国の大学や組織とのパートナーシップを構築し、ビジョン 2030 に沿って国家人材開発の成長に貢献することに重点を置いています。 トレーニングコースの凝縮された性質にもかかわらず、マイクロクレデンシャルコースに対する学生のフィードバックは非常に肯定的です. コースは通常 8 時間で 5 …

KAUST Academy の成功に基づく構築: Carin Read More »

NVIDIA Omniverse ベータ リリースが利用可能に

NVIDIA オムニバースの最新のベータ リリースが利用可能になりました。メタバース アプリケーションの構築を検討している開発者、クリエーター、および初心者向けのコア リファレンス アプリケーションとツールが大幅に更新されており、各コア コンポーネントが更新され、アプリケーション間のコラボレーション ワークフローの速度、アクセシビリティ、および柔軟性が向上しています。 このリリースは、新しい Ada Generation GPU のサポートと NVIDIA シミュレーション テクノロジの進歩を活用しており、複数のサードパーティ アプリケーションから大規模で複雑なシーンを簡単に取り込めるようにし、リアルタイム レンダリング、パス トレーシング、および物理シミュレーションを最大限に活用することに重点を置いています。 Omniverse の中央データベースおよびコラボレーション エンジンである Nucleus は、サーバー間のライブ コラボレーションとコピーを高速化します。 Nucleus Navigator 3.2 を使用すると、オンプレミス サーバーとクラウド内のサーバー間でファイルとフォルダーをシームレスに移動できます。 また、画像、オブジェクト、およびその他のアセットをすばやく取得するための検索機能も強化されています。 さらに、Omniverse Live 2.0 を備えた OmniObjects により、Connector 間のより高速なコラボレーションが可能になります。 人気のあるアプリ用の新しいコネクタと更新されたコネクタは、Omniverse Connect から入手できます。 ライブラリにより、ユーザーはお気に入りのアプリから Omniverse プラットフォームへのコネクタを作成できます。 ベータ リリースには、PTC Creo、Autodesk Alias、Kitware ParaView、Siemens JT、および Autodesk Maya 用の新規および更新されたコネクタが含まれています。 Omniverse Simulation …

NVIDIA Omniverse ベータ リリースが利用可能に Read More »