ここから本文です

「裸は撮れないカメラ」で自画撮り被害を防止など、トーンモバイルの見守り機能を拡充

2/14(金) 20:50配信

Impress Watch

 ドリーム・トレイン・インターネット(DTI)が運営するトーンモバイルは、スマートフォンの新モデル「TONE e20」の発表にあわせて、トーンモバイルで提供される見守りサービス「TONEファミリー」の機能を拡充する。

【この記事に関する別の画像を見る】

 端末自体の詳細は別記事を参照していただきたい。

□自画撮り被害を防止、裸は撮れない「TONEカメラ」

 「TONEカメラ」は、裸やそれに近い服装など、不適切な画像の撮影を規制する「AIフィルター」を搭載したカメラアプリ。クラウドを用いず、端末自体でAI技術を利用しているため、サーバーなどへのデータ保存は行われない。

 同アプリは、児童ポルノ事件のうち、近年深刻化している「自画撮り被害」を防ぐことを目的に提供される。警察庁の統計によると、児童ポルノによる被害の3~4割がSNSなどで知り合った相手にだまされ、児童が自身のスマートフォンで自分の裸を撮影し、相手に画像を送ってしまう「自画撮り被害」だったという。

 スマホを利用した子どもの事件被害は増加しており、2019年には2000人を突破した。総務省の調査によると、年齢階層別のスマートフォンの利用状況のうち、20歳未満の利用状況がはじめて減少に転じた。トーンモバイルはこの利用状況の変化について、「シニア層の利用率は増加しているが、若年層の利用率は低下している。背景として昨今の児童ポルノ被害の増加が考えられる」と分析する。

 「TONEカメラ」では、端末内のAIが被写体を分析し、裸写真などの不適切画像と判断された場合、端末上に撮影不可のアラートを表示し、撮影を制限する。不適切と判断された場合のデータは保存されずに破棄される。静止画だけでなく動画撮影にも対応し、動画撮影中はリアルタイムで判別する。

 被写体の分析は端末内のみで行われるため、画像判別のためのクラウド上への送信および保存は行われない。「肌色の量が多いため不適切画像」といった単純な判別ではなく、実際の画像をもとに学習データを作成したという。

 「TONEファミリー」の管理者向けアプリで設定することで、不適切画像が撮影された場合には保護者に撮影ログを通知できる。通知では撮影場所とモザイク処理された極小のサムネイル画像を確認できる。

 なお、サードパーティー製のカメラアプリでは同機能を利用できないため、保護者は外部アプリの利用を制限することで、不適切画像の撮影を完全に制限できる。

 「TONEカメラ」の対象機種は現時点ではTONE e20に限られる。前モデルのTONE e19は本体のアップデートにより対応する予定だ。

□スーパーアプリの利用を機能別に制限

 「TONEファミリー」で提供される利用制限機能について、これまでアプリごとに実行可否を設定できるものだった。今回のアップデートにより、同一アプリ内でメッセージ、ゲーム、動画視聴など多くの機能を使える「スーパーアプリ」において、機能ごとに利用を制限できるようになる。当初はLINEに対応し、順次対応アプリを増やしていく予定。

 保護者がゲームアプリの実行を制限していても、スーパーアプリ上に実装されているゲームは実行できてしまう。スーパーアプリの利用自体を制限してしまうと、家族とのメッセージングといった必要な機能も使えなくなってしまう。こういった問題点を改善するためにスーパーアプリ向けの見守り機能が用意された。

□サービス利用記録をブロックチェーン化、運用情報の改ざんを阻止

 フリービットグループのブロックチェーン関連技術「The Log」をトーンモバイルの各種サービスの運用記録に実装する。コンシューマー向けサービスへのブロックチェーン適用は世界初だという。

 「The Log」は、各種サービスの運用履歴をブロックチェーン上に記録する改ざん不能なインフラシステム。AIや各種サービスの運用記録を独自技術で暗号化し、万が一「AIが暴走」(石田氏)しても個人情報などを保護するという。ここでいう「AIの暴走」とは、AIによる強化学習などにおける想定外の動作を指し、個人情報の流出や運用履歴が改ざんされてしまう状態を指す。同技術はスマートフォン向けの各種サービスに順次採用し、改ざん不可能なインターネットインフラの提供を目指していく。

■店頭販売は新形態を導入、カメラのキタムラと連携し拡大を狙う

 フリービットは2019年12月1日付でトーンモバイルの全事業をドリーム・トレイン・インターネット(DTI)に承継。これに伴い、同社はカルチュア・コンビニエンス・クラブ(CCC)との業務提携を解消した。

 CCCとの業務提携解消後も関係性は良好だと石田氏。フリービットとキタムラは協業により、契約手続きから端末の設定までの全てをTONEセンターから遠隔で行い、リソースを効率化できる新型店舗の展開を進めている。

 これまでトーンモバイルの取り扱いを行っていたTSUTAYA(ツタヤ)とカメラのキタムラはともにCCCが展開している。ツタヤ側の店舗戦略の変化により、ツタヤでのトーンモバイル取扱店舗数は減少しているが、今後はカメラのキタムラの新型店舗での取り扱いに注力する方針だ。カメラのキタムラはトーンモバイルの取り扱いを2月に18店舗、3月に7店舗で開始し、今後も店舗数を順次拡大していく。

ケータイ Watch,大泉 勝彦

最終更新:2/14(金) 20:50
Impress Watch

こんな記事も読まれています

あなたにおすすめの記事