Open AIは、AIモデルを使用してより多くの悪質な行為者を排除しています。そして、同社にとって初めて、政治的影響力の操作に使用されたロシア、中国、イスラエルのアカウントを特定して削除しました。
>>>>>>SM-P1-H18650CH
プラットフォームの脅威検出チームからの新しいレポートによると、プラットフォームは、プロパガンダを含んだボット、ソーシャルメディアのスクラバー、偽の記事生成などの秘密の影響力操作に従事する5つのアカウントを発見し、終了しました。
「Open AIは、乱用を防止するポリシーの執行と、AIによって生成されたコンテンツの透明性の向上に取り組んでいます。特に、公共の意見を操作したり、政治的な結果に影響を与えたりする秘密の影響力作戦(IO)を検出して妨害することに関しては、その背後にいる行為者の真の身元や意図を明らかにせずに行われます。」
終了されたアカウントには、「Bad Grammar」と呼ばれるロシアのTelegram作戦の背後にいる人々や、イスラエル企業STOICを支援する人々が含まれます。STOICは、Open AIモデルを使用して、イスラエルの現在の軍事包囲を称賛する記事やコメントを生成し、それらがMetaプラットフォーム、Xなどに投稿されたことが判明しました。
Open AIによると、秘密のアクターのグループは、「短いコメントや長い記事をさまざまな言語で生成したり、ソーシャルメディアアカウントの名前やバイオを作成したり、オープンソースの調査を行ったり、簡単なコードをデバッグしたり、テキストを翻訳して校正したりするなど、さまざまなタスクに使用していました。」
>>>>>>BN-V607
2月、Open AIは、Open AIの翻訳およびコーディングサービスを使用して潜在的なサイバー攻撃を強化するなど、同様に疑わしい行動に従事していると判明したいくつかの「外国の悪質な行為者」アカウントを終了したことを発表しました。この取り組みは、Microsoft Threat Intelligenceとの協力によるものでした。
>>>>>>GEB222
世界的な選挙シリーズに向けてコミュニティが活気づく中、多くの人々がAIによるディスインフォメーションキャンペーンに注目しています。アメリカでは、有名人や大統領候補者のディープフェイクされたAIビデオやオーディオが、テックリーダーに拡散を止めるよう連邦政府に呼びかける原因となりました。また、デジタルヘイト対策センターの報告書によると、多くのAIリーダーが選挙の公正性を約束しているにもかかわらず、AIボイスクローニングは依然として悪質な行為者によって簡単に操作されています。