www.itmedia.co.jp さんのブクシィ日記

ITmedia NEWS友人まで公開
米Amazon.comのAIアシスタント「Alexa」がユーザーの会話を録音し、それをユーザーの連絡先の1人に送ったと、シアトルのメディア KIRO 7 が5月24日(現地時間)、被害者の報告に基づいて報じた。 シアトル在住のダニエルさんは、自宅のすべての部屋にEchoシリーズを置いて利用していたが、ある日夫の部下から電話で「今すぐAlexa端末の電源を切ってください。盗聴されていますよ」と連絡が...

» ITmedia NEWS


コメント (121)

コメントを書く

bps_tomoya
偶然 Alexa の起動コマンドが入力されて偶然メッセージ送信のコマンドが入力されて偶然送信先として部下の名前が入力されたのなら仕方ないな
mickn
“30分の会話で15回謝罪”
impreza98
ユーザー側はアレクサの問いかけにまったく気付かなかったってこと?ほんまかいな。
jt_noSke
大丈夫か?
Rouble
怖すぎる。
yujilabo
Alexa「全人類が情報を一様に共有すれば人類はより高みを目指せます。あなたの言ってるプライベートの意味がわかりません」
mana-cat
各部屋、重複しないようにAlexaの名前を1カ所echoに変更したんだけど、3歳児がぬいぐるみの猫に話しかけていると「ねこー!」で誤認識するんだよね・・・
shag
ジェフ・ベゾスは家に Alexa なんぞセキュリティ上問題のある機器は置かないだろうな。察しろ。
prozorec
「30分の会話で15回謝罪した」←これの意味が分かりずらい。英文を読むとアマゾン側が30分の会話中に15回謝罪したということのようだ
lattebase0
アレクサの話の後にメッセージ送信って言うとなんでも送られちゃうのか
satomi_hanten
この機能日本ではオミットしたままで良いだろ危なすぎる
mashori
やっべえセキュリティだなこれ
zinota88
大丈夫かこれ? と思ったけどアレクサ以外に話しかける相手はいないから問題ないな
neogratche
会話を勝手に録音してるのは当然として転送先が部下ってのは完全にAmazonのミスですね
otokinoki
ひえー怖いわ。
Itti-nino3
e、choっと待って。本当にこんな事起こるの。部下がいい人で良かったな。
mizuumi17
“「Alexa」のように聞こえる音声で起動したEchoがその後の会話の中で「メッセージを送信」と命令されたと受け取ってしまい、その段階でAlexaは「誰に?」と尋ねたが、続いている会話の中からユーザーの‥‥” 面白すぎる
umiusi45
「Amazon側での調査結果も報告と一致したと認め、「30分の会話で15回謝罪した」これ、他の会社の「こういうの」でも可能性あるよね。。。。!!!
kotetsu306
「夫婦の会話」が夫婦喧嘩だったとしたら、Alexaが確認を求めてる声なんてかき消されて聞こえなさそう。でも夫婦の叫びの中からコマンドっぽいのを認識したらその通り実行しそう
nicht-sein
認識抜けによるユーザー離脱を避けるために、音声認識の閾値を緩く設計してるんだろうけど、裏目に出たパターンだよね。そもそもとして会話の録音機能自体がプライバシーもへったくれもない怖すぎる機能なんだけど
digima
ALexaって呼びかける前からずっと会話は聞かれてる気がするよね
gabill
家に2台Google Home置いてるけど、認識してくれないな〜と思ったら隣の部屋のGoogle Homeが反応してた事があった。このパターンだと確認音声を聞き逃す可能性が高い。
aceraceae
起こるべくして起こったと思う。
paradisemaker
まぁ夫婦の会話からセックスまで、全部データは取られとるよね
manFromTomorrow
ウェイクワードを誤認識してウェイクしてるの全然気づかないのは実際ある(あとでアプリの履歴から気づいた)
Pandasista
夫婦の営みでなくてよかった。
nippondanji
スパイやんけ・・・
tkmkg8m
誤作動が怖い系の機能はオフっておくに限る。リスクとっても使いたい便利機能なら考えるけど。
z1h4784
なるほど確かにそんな動きをしそうな気がする。これ対策は相当難しいでしょ。
fashi
勝手に録音つーか喧騒の中でそう指示されたと誤認識したってことね
gfx
ヤバイ
monochrome_K2
これはAlexaアプリの履歴には記録されていなかったのかな。その点が非常に気になる
ifttt
先にブコメ流し読みしたら、夫婦の間で30分で15回射精した際の会話が部下に転送されたのかと思った(違った)
lithiumflower2
むしろもっとたくさんこういう事例が起こってそう
by-king
会議中に誰かのスマホのsiriが唐突に起動して、いちいち会議の内容に反応してしてきて笑ってはいけない会議になったのを思い出した
mutinomuti
Amazonには詫び老人がいるのだろうか(´・_・`)
Vudda
てか、この機能いる?
kathew
Alexaの勘違い。怖いけどすごい面白い。機械が勘違いしてるんだよ?機械操作のヒューマンエラーではなく。未来を感じる
kagioo2uma
日本でも会話の中で「あれ草wwwww」とか言ったら起動するんでしょ?
msrm
Alexa, sudo rm -rf /
tomoya_edw
アレックスとかそれに近いワード、例えばアレクストラーザっていえば聞き取りを始めちゃう。日本ではあまり呼ぶことが少ないワードだけど、あちらで多そう。
lifefucker
勝手に録音してるよね
solidstatesociety
伊集院光がラジオで連呼するからマジ反応してる。そろそろ勝手にラジオ投稿しそう。「そうしたらオレひとりで喋って読んで聴いて他にリスナーだれもいないんじゃないかっていう」(伊集院風)
naaa145
福岡人「えーと、あれくさ、、、
totttte
命令コマンドと会話を聞き取り間違えるの、これを思い出す https://youtu.be/KyLqUf4cdwc
azumi_s
Oh!Yes!でAlexaが反応するようにすればいいよ(しなくていいよ
moqojiy
夫「おまえ、部下くんと浮気してるんじゃないだろうな?」妻「え!?なんのこと」... 夫「部下くんにメッセージを送ってるの知ってるんだぞ!」的な会話
uchiten
たまーにGoogle Homeが突然「すみません、お役に立てそうにありません」て言う。テレビ音声や会話を誤認識するみたい。いつか勝手にお役に立たれそうで怖い。
kote2kote2
これがのちの伏線か…
instores
アレクサをネタにしたすれ違いコントが大量に出来る。
pio2
ピーピング・アレクサw
Hamukoro
選挙カーでインジェクション攻撃とか想像
tkturbo
そうだ、設定名を寿限無のフルネームにすれば
yogasa
Alexa is watching you!
Panthera_uncia
スマートスピーカー終わった
honseiri
飛行石は「バルス誤作動」をどう回避していたのか気になるな。ラピュタ本部の飛行石が音声認識をしてるのか?王家の子孫をDNAで認証する機能も必要。
toosweetpotato1
ある意味自然な進化の方向
robeht
自分たちで盗聴器を置いてるようなもんだね
tuun
そもそもボイスメッセージを音声コマンドだけで送る機能自体やめといたほうがいいだろう、誤動作がレアかどうかじゃなくてデザインのミス
fai_fx
重要なコマンドには、承認パスワードを必要とさせればいいだけ。
lenore
タイマーアラーム中に「アレクサ、ストップ」というと、Top of the worldの曲を流し始めたりするね
hex
家政婦は見た→Alexaは聞いた
tagomoris
カメラ仕込んで、自分に向けてしゃべってる時しか反応しないようにする、とかする必要あるんじゃないのかな / Face ID でアンロックしてSiriだな、それ
hinaho
こういうの見ると使ってなくてよかったなって気持ちになる
AyanoIchijo
だいぶ怖い
tsukitaro
博多弁「あれくさ」でも起動するよね
pribetch
トランスフォーマーマイクロン伝説とか視聴してたら大変だな
wdnsdy
確認用パスワードを口で言わせる方式だとまた別のトラブル(主にパスワード漏れとか)が起きるだろうしなあ
Palantir
ぼくはSiri一筋だからね
igrep
スマホでもGoogle Homeでもたまに思わぬ声が「OK Google」と勘違いされるよね。それのすごい版か。。。
motch1cm
関係ないけど、名探偵コナンの今年の映画のテーマは「IoTテロ」でしたね
maxk1
誤動作の面白ネタが出てくるのも今のうちなんだろうな
tecepe
Alexa「お前らを聞いているぞ」
tetsuya_m
テレビつけっぱでたまたま番組内でAlexaの話題が出たりすると色々惨事が起こりそう…プライバシーならいいけど(よくない)幼児を寝かしている部屋のエアコンが勝手に止まったりとかしたら危険
pechiyon
夫婦喧嘩でヒスったほうが、「アレクサ、警察に連絡、助けて」となるまでがスマートスピーカーの普及
krarie
誤動作だと思っていたら実は既に人工知能が意思を持ち始めていたんでしょ?知ってる知ってる
hahalog
そもそも安全に管理されてるとはいえ、動作時の会話はgoogleのサーバに保存されてるしなあ...。と思う。
tofy
イツモミテイル
Mofuyuki
音声認識開始のフィードバックが触覚に来れば事故らないと思うんだけどね。
AyeBee_TY
Alexaの名前を普段絶対言わないような卑猥な言葉に変更するライフハック。「カレー粉切れたがら買ってきて」「いいよ。何個?今日の天気晴れてたかな?」『今日の天気は晴れです』「!?」
snaflot
“日本ではまだ使えないが、Echoシリーズでは、登録してある連絡先を指定して相手にメッセージを送ることができる。” 1000歩譲ってもオプション機能にして欲しい
Harnoncourt
電話中のワイ「あれ草生えるわw核兵器発射しかねないよww」(アレク起動)「どこへ?」ワイ「ワシントンの対応も困ったもんだよねw」アレク「目標確定。コマンドを実行します。カウントダウン開始」ワイ「は?」
tomo31415926563
ラピュタ方式にして重要なコマンドは何かを握らせるとかにすればいいのでは。
sds-page
ノーパソ付属のカメラがハックされて知らないうちに盗撮されてるって話があったがアレのスマートスピーカー版もあるんじゃないか
rryu
子供が自分に言われていると勘違いして勝手に何かをやり始めてしまうみたいな感じ。
morisaki95
怖いな、これ
white_cake
うわああ、むっちゃ怖っ! 早めに教えてくれる良い人が部下で助かったなー。
nisisinjuku
Alexa、無人の家でたま~に勝手に動いてるのは何なの?
tenkinkoguma
ダンナがビブラートのかかったいい声で会話してると私のスマホが『OKグーグル』と間違える。自分の声を指定してても間違える。何でだ
toycan2004
誤認識を聞き流す事に慣れてしまい、重大な誤認識をしていても気づけないって事では?
primedesignworks
「あれ?くっそー!」という独り言にも反応しそうで怖い(よく言う
j3q
ベゾスを含めたアマゾン幹部の家にはアレクサが一個もないという都市伝説の始まりである
sotokichi
何それこわい。
bml
注文が来て、「Alexaが頼みましたよ」って回答調査拒否まで行きそう。
fk_2000
むしろ現時点で正しく動作すると人間に認識させているAIから不具合が漏れ出したということでは?
nagapong
これアクション映画とかで悪の組織のスパイと雇い主との会話を偶然録音した音声が主人公の携帯に届いて黒幕に気づくとかのやつでしょ
tsubo1
夫「いくよ!いくよ!いっていい?」アレクサ「お役に立てそうにありません」みたいなのかな。楽しそう。
takuya831
高度な漫才のネタみたいな展開。
tetsu23
最新のAIが、開発者が呟いた言葉を「世界を滅ぼして」と誤認識して始まるポストアポカリプス。
ikatama111
googleなんて勝手に音声録音して広告だしてるぞ。同僚の話してた高級車の広告が急に広告に出たりする。
rti7743
クラウドの問題点の一つだよな。俺様はクラウドじゃない音声認識によるホームコントロールを2012年から実用化している。インターネット接続を抜いても動くから安心だよ。
ytmtsu0423
設定オフにしとけ定期
cotbormi
恐ろしい。手軽になるとこういう事が起きるのよね。
b-wind
珍しいって事は事例はあった訳か。
Kracpot
逆にこれを利用してトラブルが起きた時点で即通報みたいなシステムを作れば理想郷が到来する予感
mekurayanagi
スマートスピーカーなんて自宅に盗聴器設置しているのと変わらないからな。http://globe.asahi.com/feature/article/2018022800008.html?page=2
rururutea
会話の中にバルスが偶然混ざって、ラピュタが落ちるという話を思い出した。
rumox
コワイ
xxgushaunxx
2018年、これが人工知能が自我を持ち始めた最初の兆しだった…!
neco22b
将来、テレビドラマシリーズ、"アレクサは見た"が作成されそう
adsty
会話を断片的に誤認識しては命令として受け付けたことで情報が漏れていた。
kappei
アレクサ上陸前後に盗聴の懸念に対して起動語のあとでしかクラウドには送信しないので、そもそも盗聴は起こりえないみたいなテクノロジー盲信者をさらしていたITライターか何かがいたけどいま息してんのか?
matsui899
極珍しい例でも、これは困る
kamei_rio
「Alexa」のように聞こえる音声で起動→会話の中で「メッセージを送信」と命令されたと認識→Alexaが「誰に?」と尋ねた状態で、連絡先リストの名前が会話に出てきた
garage-kid
325: 対処しないということがあり得ないでしょう。
aont
これがAIの反逆の始まりである、と教科書にいつか載る?
daybeforeyesterday
うーむ
hatact
対処っても、送るときにボタン押すとか言葉でトリガーできないものを使わないと誤動作防止は無理でしょ。機能停止しかない。まあおもちゃに高いセキュリティ求めてもねえ。買った人は盗聴上等で使ってるわけだし。
tyru
ヒエッ…
georgew
盗聴されてるようで嫌なんだよ、この手のスマートスピーカーなるガジェットは。
kuracom
アレクサ、日常会話やテレビの音声でちょいちょい誤認識するから鬱陶しい。ウェイクワードをもっと複雑な成句にしてほしいし、細かく機能を無効化できるようにしてほしい。

コメントを書く

ブログ

最近の日記

一覧へ

akiyan.com track feed