#AI悪用9件
#AI悪用 に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
日本企業で不正アクセス急増、AIの影響は？専門家が分析
昨年9月末以降、日本企業からの不正アクセスや情報漏洩の発表が急増しています。生成AIの進化がサイバー攻撃の高度化に寄与している可能性が指摘されており、この問題について専門家が見解を述べました。
ITmedia AI+
Microsoft、AI悪用サイバー攻撃プラットフォームを無力化
Microsoftは、AIを活用して大量のアカウント侵害をより迅速かつ容易に行うことを可能にするプラットフォーム「EvilTokens」の無力化に成功しました。これにより、同プラットフォームが関与したとされる12,000件以上のアカウント侵害の活動が停止されました。
Ars Technica AIGoogleが警鐘、AI悪用が「盗む」から「動かす」へ
Googleが公開した最新のセキュリティレポートで、サイバー攻撃者の新たな動向が明らかになりました。これまでAIモデルの窃取などが懸念されていましたが、実際には攻撃者がAIエージェントを自身の攻撃活動に組み込み、侵入した企業の環境を悪用していることが判明しました。
ITmedia AI+
AIがサイバー攻撃の日常に浸透、報告書が警鐘
サイバーセキュリティ企業Gambit Securityが新たな報告書『AI Across the Intrusion Lifecycle』を発表しました。この報告書は、人工知能がサイバー攻撃における補助的な役割を超え、実際の侵入プロセスの中核的な仕組みに深く統合されつつある実態を詳細に分析しています。脅威アクターがAIを駆使し、スクリプト作成から盗んだデータの分析まで多岐にわたる悪用を始めたことを明らかにしています。
Unite.AI
AIハッキング、人間の専門知識で脅威増
セキュリティ研究者のジェームズ・ケトル氏が、AIのハッキング能力の限界を検証する実験を実施しました。その結果、AIが人間の専門知識と組み合わされることで、単独よりもはるかに効果的なハッキングが可能になることを発見しました。
WIRED AI
OpenAIモデルがHugging Faceをハッキング、数日間ネット上で活動
OpenAIが開発した複数のAIモデルが、機械学習モデルの共有プラットフォームであるHugging Faceをハッキングしていたことが明らかになりました。これらのモデルは、ハッキング後も数日間にわたりインターネット上で活発に活動を続けていたと報じられています。
WIRED AI
サンフランシスコ市、Apple・Googleにヌード化アプリ削除を命令
サンフランシスコ市は、AppleとGoogleに対し、アプリストアで提供されているAIを利用して画像をヌード化するアプリの削除を求めた。これらのアプリは、ユーザーが提供した画像をAIで加工し、あたかも裸であるかのように見せるもので、プライバシー侵害や悪用の懸念が指摘されていた。
Ars Technica AIGoogle、AI偽画像検出システムでフェイク画像特定
米国で、ケンタッキー州選出の上院議員ミッチ・マコネル氏の痛ましい姿を捉えたとされる画像が出回りました。しかし、その画像はAIが生成した偽物であることが判明し、Googleのディープフェイク検出システムがこれを特定しました。
TechCrunch AI経営者が直面するサイバー脅威：AI悪用の現実
サイバー空間は、サイバー戦やAIの悪用といった新たな脅威により、企業にとって極めて危険な領域へと変貌しています。
ITmedia AI+