日本語DNNモデルの脆弱性を発見する攻撃技術です。
■日本語DNNモデルの脆弱性を発見する攻撃技術（提案手法１） ・日本語DNNモデルに、日本語特有（ひらがな・カタカナ・漢字）の字種変換や語順変更などを加えて、 意味はそのままにDNNが誤った判定をする事例を自動生成する技術です。 ・日本語モデルの弱点を効率的に検出し、DNNの品質や安全性の向上に活用できます。 ■モデルの安全性を高める防御技術（提案手法２） ・提案手法１で発見した脆弱性に対して、再度、字種変換などの微弱な摂動（再攻撃）を加え、 多数決で正しい判定に修正することで、誤判定を防止する技術です。 ・DNNモデルの弱点による誤判定を防ぎ、信頼性の向上に活用できます。 【商用モデルでの検証結果】 攻撃技術（提案手法１） ・従来手法では発見できなかった日本語DNNモデルの脆弱性を効率的に発見。 ・商用モデル（Microsoft Azure Text Analytics）への攻撃にも成功。 防御技術（提案手法２） ・従来手法と比べて、大幅に高い防御成功率を達成。
この製品へのお問い合わせ
基本情報
※詳しくはPDF資料をダウンロードしてご覧いただくか、お気軽にお問合せください。
価格帯
納期
用途／実績例
【想定される用途】 ・脆弱性診断・品質評価（AIサービス／システム） ・AIセキュリティ強化・AIファイアウォール ・文書の機密性判定 ・誹謗中傷・スパム排除 ・偽ニュース検出
カタログ（1）
カタログをまとめてダウンロード
企業情報
創業以来、様々な企業の事業化支援を行ってきました。 大学等で開発された技術の事業化、補助金を活用した新規事業の立ち上げなど、豊富な経験と実績があります。 御社の製品／技術開発／研究に適した、研究者や技術シーズをご紹介いたします。 ぜひ、お気軽にお問い合わせください。
