マイクロソフト、機械学習への攻撃を修繕するオープンソース公開

このエントリーをはてなブックマークに追加

画像はニュースリリースより

米マイクロソフトは現地時間10月22日、米IBMや米NVIDIAなど11の企業や組織の協力を得て、人工知能(AI)における機械学習システムに対する攻撃を検出、対応、修復できるオープンソースのフレームワーク「Adversarial ML Threat Matrix」をリリースしたことを発表した。

マイクロソフトによると、過去4年間、商用の機械学習システムに対する攻撃が顕著に増加しているという。しかし、同社が28の企業を対象に実施した調査では、そのうち25社が機械システムに対するセキュリティツールを持っていないと回答したとする。

このような状況を受けて、マイクロソフトはアメリカの非営利団体「MITRE」と共同で「Adversarial ML Threat Matrix」を作成した。

同オープンソースは、主な対象者がセキュリティアナリスト。実際の機械学習システムに対する攻撃に基づいており、マイクロソフトとMITREが機械学習システムに対して有効であると確認したセットを使用している。セキュリティ担当者は機械学習システムに対する現実的な脅威に焦点を当てられるとのこと。

>>ニュースリリース

>>GitHub

マイクロソフト、AIが人より正確に写真を説明 従来よりも性能が2倍に

近年、マイクロソフトによるAI関連の取り組みは活性化している。

マイクロソフトは現地時間10月14日、公式ブログにおいて、同社の研究者が画像のキャプション(見出しや説明文)を作成できる人工知能(AI)システムを構築したと明らかにした。同システムが生成するキャプションは、人間が書く解説よりも正確なことが多いという。

同システムは、Azure AIの一部であるAzure Cognitive ServicesのComputer Visionサービスを通じて利用できる。本機能により、開発者は自社サービスのアクセシビリティを向上させられるとする。

本機能はSeeing AIとの連携も可能で、2020年後半にはWindowsおよびMac版のMicrosoft Wordおよび Outlook、Windows、Mac、ウェブ版のPowerPointに実装する予定とのこと。なお、検索結果として表示される写真やプレゼンテーション内の画像など、さまざまな画像が対象になる。

そのほか、詳細は以下の記事をチェックしてほしい。