インターネットを席巻する AI ツールである OpenAI の ChatGPT は、悪意のあるコードの作成に使用できる: CPR レポート

ChatGPT は、自然言語処理、データ サイエンス、機械学習の世界で急速に人気を集めている革新的な人工知能技術です。 OpenAI によって開発された AI ツールは、主に他の AI システムよりも自然に人間と会話できることから注目を集めています。

他のテクノロジーと同様に、AI を利用した ChatGPT は、善にも悪にも無限に使用できます。 このツールの可能性に気付いたサイバー犯罪者は、既存の ChatGPT ツールを攻撃に利用するために、すでにこのツールに飛び込んでいます。

オープンソースのセキュリティを改善するには?

これらの 3 つのステップに従って、より強力なセキュリティ プラクティスへの道を歩んでください。
これらの 3 つのステップに従って、より強力なセキュリティ プラクティスへの道を歩んでください。

ChatGPTとは?

ChatGPT は、2022 年 11 月に OpenAI によって開始された AI を利用したチャットボットです。OpenAI によると、ChatGPT は、2022 年初頭にトレーニングを終了した GPT-3.5 シリーズのモデルから微調整されています。

「ChatGPT は InstructGPT の兄弟モデルであり、プロンプトの指示に従い、詳細な応答を提供するようにトレーニングされています」と OpenAI は述べています。

最近公開されたレポートで、サイバーセキュリティ会社 Check Point Research (CPR) は、いくつかの主要なアンダーグラウンド ハッキング コミュニティが、OpenAI を使用して悪意のあるツールを開発するサイバー犯罪者の最初の例をすでに示していることを明らかにしました。

「予想通り、OpenAI を使用する多くのサイバー犯罪者が開発スキルを持っていないことを明確に示した事例がいくつかありました」とレポートは明らかにしています。

Check Point Research (CPR) は、ChatGPT に対するサイバー犯罪者の関心が高まっていることを示すいくつかの例を説明しました。

ボックス 1:

2022 年 12 月 29 日、「ChatGPT – マルウェアの利点」という名前のスレッドが、人気のあるアンダーグラウンド ハッキング フォーラムに登場しました。

CPR の分析によると、このスレッドの発行者は、ChatGPT を使用して、研究出版物や一般的なマルウェアに関する記事で説明されているマルウェアの系統や手法を再現しようとしていることを明らかにしました。

「スクリプトの分析により、サイバー犯罪者の主張が確認されました。 これは確かに、システム全体で 12 の一般的なファイル タイプ (MS Office ドキュメント、PDF、画像など) を検索する基本的なスティーラーです。 関心のあるファイルが見つかった場合、マルウェアはファイルを一時ディレクトリにコピーし、圧縮して、Web 経由で送信します。 ファイルが第三者の手に渡る可能性があるため、攻撃者はファイルを暗号化したり安全に送信したりしなかったことは注目に値します」と CPR レポートは明らかにしています。

ボックス 2:

12 月 21 日、攻撃者は USDoD は Python スクリプトを投稿しましたが、これは「彼が作成した最初のスクリプト」であると彼は強調しました。

別のサイバー犯罪者が、コードのスタイルが OpenAI コードに似ているとコメントしたとき、 USDoD OpenAI が彼に「素敵な [helping] 手でスクリプトを素敵な範囲で仕上げてください。

「スクリプトを分析したところ、暗号操作を実行するのは Python スクリプトであることが確認されました。 より具体的に言えば、さまざまな署名、暗号化、および復号化機能の寄せ集めです」とレポートは明らかにしています。

ボックス 3:

CPR が共有する 3 番目の事例では、「ChatGPT を悪用してダーク Web マーケットプレイス スクリプトを作成する」というタイトルの議論が開示されています。 このスレッドで、サイバー犯罪者は、ChatGPT を使用してダーク Web マーケットプレイスを作成することがいかに簡単かを示しています。

「違法な地下経済における市場の主な役割は、盗まれたアカウントや支払いカード、マルウェア、さらには麻薬や弾薬などの違法または盗品の自動取引のためのプラットフォームを提供し、すべての支払いを暗号通貨で行うためのプラットフォームを提供することです。報告書。

たとえば、サイバー犯罪者は、サードパーティ API を使用して最新の暗号通貨 (Monero、Bitcoin、および Etherium) の価格をダーク Web 市場の支払いシステムの一部として取得するコードを公開しました。

上記のケースに加えて、CPR は、複数の脅威アクターが議論を開始し、ChatGPT を不正なスキームに使用することに焦点を当てていると述べています。

「これらのほとんどは、別の OpenAI テクノロジー (DALLE2) を使用してランダム アートを生成し、Etsy などの正当なプラットフォームを使用してオンラインで販売することに焦点を当てていました。 別の例では、脅威アクターは、特定のトピックについて (ChatGPT を使用して) 電子書籍または短い章を生成する方法を説明し、このコンテンツをオンラインで販売しています」とレポートは締めくくっています。

スタッフの半分がもうすぐ辞める予定です!

それらを維持する方法は次のとおりです。 それをチェックしてください!もっと見る
それらを維持する方法は次のとおりです。 見てみな! 表示を減らす

Leave a Comment

Your email address will not be published. Required fields are marked *