ニュース

Jan 12, 2024

未来を設計するコンピューター科学者たちは、プライバシーの意味について意見が一致していない

I ricercatori della Carnegie Mellon University volevano creare un sistema che proteggesse la tua privacy.

カーネギー メロン大学の研究者は、プライバシーを保護するスマート センサーを作成したいと考えていました。 その後、同僚のプライバシーを侵害したとして告発された。

カーネギー メロン大学ソフトウェア研究所のコンピューター サイエンスの学生と教員が 2020 年の夏にキャンパスに戻ったとき、適応すべきことがたくさんありました。

何か月も社会的距離を保った後、再び同僚と一緒にいるという避けられない奇妙さだけでなく、同部門は真新しい建物である90,000平方フィートの最新鋭のTCSホールへの移転も進めていた。

このホールの未来的な機能には、新鮮な空気を自動的に取り込む二酸化炭素センサー、レイン ガーデン、ロボットやドローンのヤード、マイツと呼ばれる実験用スーパー センシング デバイスが含まれていました。 建物全体の 300 か所以上に設置されているこれらの照明スイッチサイズのデバイスは、動きや音など 12 種類のデータを測定できます。 廊下、会議室、プライベートオフィスの壁や天井にダニが埋め込まれていたが、これらはすべて、CMU教授のユブラジ・アガルワル氏と博士課程学生のスデルシャン・ブーヴァラガバン氏が主導し、別の教授であるクリス・ハリソン氏も参加したスマートビルディングに関する研究プロジェクトの一環だった。

アガルワル氏は2021年4月の市庁舎会議で「このプロジェクトの全体的な目標は、安全、安心、そして使いやすいIoT​​（モノのインターネット）インフラを構築する」ことだと説明し、センサーのネットワークに言及した。インターネットに接続してワイヤレスで情報を共有できる、スマート電球、サーモスタット、テレビなどの物理的オブジェクトが装備されています。

建物がダニだらけであることを誰もが喜んだわけではありません。 部門内の一部の人は、このプロジェクトがプライバシーを保護するどころか侵害していると感じていました。 特に、テクノロジーの社会的影響により重点を置いた研究を行っている学生や教員は、デバイスのマイク、赤外線センサー、温度計、および少なくとも空間が占有されているときを感知できるその他の 6 つのセンサーが、実験的な監視の対象になると感じていました。彼らの同意なしに。

「これらをデフォルトでインストールするのはよくありません」と、ソフトウェア工学の最終学年の博士課程候補者であり、部門内でダニに対して最も声高に反対する人物の 1 人となった David Widder 氏は言います。 「雇用主が事前の断りもなくオフィスにネットワーク化されたセンサーを設置し、他の組織が模範となるような世界には住みたくない。」

すべてのテクノロジー ユーザーは、プライバシーに関して個人的な境界線をどこにどのように引くかについて、同様の疑問に直面しています。 しかし、自分の家の外では（そして時には家の中でも）、私たちはこれらの決定に対する自主性をますます欠いています。 代わりに、私たちのプライバシーは周囲の人々の選択によって決まります。 友人の家、小売店、または公道を歩くだけで、私たちはさまざまな種類の監視にさらされることになりますが、私たちはそれをほとんど制御できません。

職場監視の急増、大量のデータ収集、サイバーセキュリティリスクの増大、プライバシーとスマートテクノロジーに対する懸念の高まり、学術機関における言論の自由をめぐる緊張関係を背景に、マイツはソフトウェア研究所内の避雷針となった。

この問題の双方の声は、マイツプロジェクトが TCS ホールをはるかに超えた影響を与える可能性があることを認識していました。 結局のところ、カーネギー メロン大学は科学、技術、工学のトップレベルの研究大学であり、この研究をどのように扱うかが他の場所でのセンサーの展開に影響を与える可能性があります。 「私たちが何かをすると、企業…[そして]他の大学も耳を傾けてくれます」とウィダー氏は言う。

実際、マイツの研究者らは、自分たちが経験したプロセスが、同様の研究を目指す「小規模大学にとって実際に青写真になる可能性がある」ことを期待していたと、IoTデバイス向けの機械学習の開発とテストを行っているコンピュータサイエンスの准教授アガルワル氏は語る。 10年間。

しかし、重要な問題は、スーパーセンサーがカーネギーメロン大学を卒業し、商品化され、世界中のスマートビルに導入された場合、あるいはいつ起こるかということです。

この紛争は本質的に、プライバシー、匿名性、同意に関する厄介な問題をめぐる訴訟を起こそうとする、世界トップクラスのコンピューターサイエンス部門による試みである。 しかし、それは学術的な議論から、いじめ、破壊行為、誤った情報、職場の報復などの告発を伴う激しい論争へと悪化した。 プライバシーに関する多くの会話と同様に、プライバシーが何を意味するのか、いつ同意が必要となるのかについて、一見相容れない概念で、両者は互いにすれ違い続けてきた。

結局のところ、テクノロジーの選択について研究の議題を設定している人々がプライバシーに関して合意に達することができなければ、残りの私たちはどうなるでしょうか?

Mites プロジェクトは 2 つの基本的な前提に基づいていました。1 つは、あらゆる場所の建物がすでに標準的なプライバシー保護なしでデータを収集しており、今後も収集し続けるということです。 そして 2 番目に、最良の解決策は、より有用で、より効率的で、より安全で、より良い目的を持った、より優れたセンサーを構築することです。

つまりダニです。

アガルワル氏は、「本当に必要なのは、セキュリティ、プライバシー、安全第一のシステムを構築し、ユーザーがこれらのシステムを信頼し、明確な価値提案を理解できるようにすることです」と説明する。

「Google や ExxonMobil よりも、私たちがそれを主導したいと思っています」と、人間とコンピュータのインタラクションの准教授であり、このプロジェクトの教員協力者でもあるハリソン氏は、センサー研究について言及しながら付け加えた。 (Google は、Mites につながった研究の初期段階に資金を提供し、建物の周囲に掲げられた銘板に記載されているように、JP モルガン チェースは「TCS ホールでのスマート ビルディング研究への寛大な支援」を提供しています。)

マイト (この名前は個々のデバイスとプラットフォーム全体の両方を指します) は、ハードウェア スタックとデバイス上のデータ処理によってサポートされるオールインワン センサーです。 アガルワル氏は、この小さな生き物にちなんで名付けられたわけではないとしているが、プロジェクトのウェブサイトのロゴには虫が描かれている。

研究者らによると、ダニは現在の建物センサーに比べて大幅に改善されています。通常、動作検知器や温度計など、単一の目的を持っています。 さらに、今日の多くのスマート デバイスは、単独で、または Google の Nest や Amazon の Alexa などの特定のプラットフォームでのみ動作することがよくあります。 彼らは相互に対話することができません。

さらに、現在の IoT システムは、正確にどのようなデータが収集されているのか、どのように送信されているのか、どのようなセキュリティ プロトコルが導入されているのかについてほとんど透明性を提供せず、過剰収集の側面を誤っています。

研究者らは、マイツがこれらの欠点を解決し、IoTセンサーの新たな用途や応用を促進することを期待している。 たとえば、マイツのマイクは学生が勉強するための静かな部屋を見つけるのに役立つ可能性があると彼らは述べ、アガルワル氏は2021年4月のタウンホールミーティングで、モーションセンサーが管理スタッフが実際に毎晩オフィスを清掃しているかどうかをオフィスの居住者に知らせることができると提案した。 （研究者らはその後、これは新型コロナウイルス感染症プロトコルに特有の提案されたユースケースであり、清掃スタッフが交通量の多いエリアに集中できるようにする可能性があると述べたが、その可能性からは遠ざかっている）。

研究者らはまた、長期的にはダニ、そしてより一般的にはセンサーの構築が環境の持続可能性の鍵であると信じています。 彼らは、他のより野心的な使用例も検討しています。 大学の論文にはこのシナリオが説明されています。2050 年に、女性が記憶喪失を経験し始めます。 彼女の医師は、自宅の周囲にマイツを設置して「…スマートスピーカーに接続して、洗濯が終わったときやオーブンをつけっぱなしにしたときを知らせる」ことや、シーツの波打つ音や夜間のトイレの音に注目して睡眠を評価することを提案している。 「それらはエミリーにとって有益ですが、彼女の医師にとってはさらに有益です」と記事は主張しています。

マイツはプラットフォームと統合された多目的デバイスとして、データ収集を過剰に行うことなくあらゆる種類の問題を解決できるはずでした。 各デバイスには、音、光、振動、動き、温度、湿度など、部屋に関するあらゆる種類の周囲情報を収集できる 9 つのセンサーが搭載されており、合計で 12 種類の異なるデータが含まれます。 プライバシーを保護するため、ビデオや写真はキャプチャされません。

CMUの研究者たちは、このようなプロジェクトを試みるのは初めてではない。 マサチューセッツ工科大学の IoT 研究イニシアチブ (同様に MITes とも呼ばれます) は、動きや温度などの環境データを収集するポータブル センサーを設計しました。 この研究は、主に PlaceLab の一部として 2005 年から 2016 年まで実施されました。PlaceLab は、慎重に審査されたボランティアが居住し、その交流を研究することに同意したアパートをモデルにした実験研究所です。 MIT プロジェクトと CMU プロジェクトは無関係です。 (MIT Technology Review は MIT から資金提供を受けていますが、編集上の独立性は維持されています。)

カーネギーメロン大学の研究者らは、Mites システムは「特徴化」と呼ばれる技術プロセスを通じて、デバイスが収集するデータの一部のみを抽出すると述べています。 これにより、たとえば声を個人に遡って追跡することがより困難になるはずです。

機械学習 (エッジ コンピューティングと呼ばれる技術により、最終的には集中サーバーではなくデバイス上で実行されます) は、受信データを特定のアクティビティの結果として認識します。 期待は、特定の一連の振動を、たとえば通過する電車にリアルタイムで変換できることです。

研究者らは、特徴量化やその他の種類のエッジ コンピューティングにより、クラウドに送信、処理、保存する必要があるデータの量が最小限に抑えられるため、マイツのプライバシー保護がさらに強化されるだろうと述べています。 (現時点では、機械学習はまだキャンパス内の別のサーバーで行われています。)

「私たちのビジョンは、『ロード・オブ・ザ・リング』をご覧になったことがある方ならわかると思いますが、1 つのセンサーですべてを支配できるということです。このアイデアは、この異質なセンサーの集合ではなく、2 インチ×2 インチのサイズに 1 つのセンサーを配置するというものです。 MIT Technology Reviewと共有された会議の記録によると、アガルワル氏は2021年4月の市庁舎で説明した。

しかし、部門の反応が何らかの兆候であるとすれば、着用者が他者に対する支配を達成できる力の指輪は、おそらく最良の例えではなかったでしょう。

探している人でない限り、カーネギー メロン大学ピッツバーグ キャンパスの西端にある明るく風通しの良い TCS ホールが、ダニのデバイスで覆われていることを知らないかもしれません。アガルワル氏によると、2023 年 2 月現在、そのうち 314 台がダニのデバイスで覆われています。

しかし、よく見てみると、そこにはプラスチックで包まれた小さな四角い回路基板があり、標準的な照明スイッチ プレートに取り付けられています。 それらは、談話室やオフィスの入り口の内側、サーモスタットや調光器のそば、天井に設置されています。

実際、TCS ホールでダニがいない唯一の場所はバスルームと、その名前を冠した建物に資金を提供するために 3,500 万ドルを寄付したインドの多国籍 IT 企業タタ コンサルタンシー サービスが調査を実施している 5 階です。イノベーションセンター。 （広報担当者は「TCSはマイツプロジェクトには関与していない」と述べた。）

博士論文の焦点は、AI 開発者が自分の仕事が引き起こす可能性のある害に対する自分の責任について考えるのを助ける方法に焦点を当てているウィダー氏は、2020 年の秋のある時点で彼のオフィスにダニ センサーがあることを知ったことを覚えています。彼の壁と天井に取り付けられた点滅する装置、またはドアのすぐ外の廊下の天井にある 2 つの装置が見えません。

ウィダーさんも、デバイスの電源を切る方法をすぐには知りませんでした。 オンオフのスイッチがありませんでした。 （最終的には、オプトアウトを強制しようとする彼の試み​​は、彼のキャリアを狂わせる恐れがあるだろう。）

これは新進気鋭の技術倫理学者にとって問題でした。 ウィダー氏の学術研究では、ソフトウェア開発者が自分たちが構築する製品の倫理的影響についてどのように考えているかを調査しています。 彼は、コンピューター科学者がテクノロジーの社会的影響を理解できるよう支援することに特に興味を持っています。 そのため、マイツは職業上も個人的にも懸念事項でした。 彼がコンピューター科学者たちの取り組みを支援した監視とインフォームド・コンセントの問題が、まさに彼のオフィスにも侵入してきた。

CMU は、新しいテクノロジーをより広い世界に送り出す前にキャンパス内でテストする唯一の大学ではありません。 大学のキャンパスは長い間研究の温床であり、同意に関するポリシーには疑問が残ることもありました。 技術倫理学者であり、分散型 AI 研究所の創設者であるティムニット・ゲブルー氏は、学術研究者によって収集された監視データに基づいて構築された顔認識に関する初期の研究を引用しています。 「産業界で見られる問題のあるデータ慣行の多くは、最初に研究の世界で行われ、その後産業界にも持ち込まれています」と彼女は言います。

ウィダーはそのレンズを通してダニを観察した。 「研究のための同意のないデータ収集は、通常は非倫理的だと思います。私的および公共のスペースに設置された普及型センサーにより、ますます普及した監視が常態化しています。それは私が簡単にしたい未来ではありません。」と彼は言います。

彼彼は学部の Slack チャンネル、電子メール、他の学生や教員との会話で懸念を表明し、自分が一人ではないことに気づきました。 同氏によると、他の多くの人がこのプロジェクトのことを知って驚き、センサーデータが何に使用されるのか、いつ収集が開始されるのかについて多くの人が質問を共有したという。

「私はまだTCSホールに行ったことはありませんが、ダニについては同じように感じています」と、別の部門のメンバーは2021年4月にSlackに書いた。 。」

研究者らは、大学が要求するデータ収集プロセスに従い、治験審査委員会（IRB）と弁護士による審査を経て承認を得たと述べた。 米国連邦規制の義務に従って、被験者が関与する研究を監督する治験審査委員会は、3月に最終的にプロジェクトを承認する前に、ダニの研究提案にフィードバックを提供していた。 このプロジェクトに関する公開FAQによると、理事会は、単にダニを設置して環境に関するデータを収集する場合、治験審査委員会の承認やTCSホールの占有者からの事前の同意は必要ないと判断した。ただし、プライベートオフィスでの音声データの収集は例外である。 「オプトイン」同意プロセスに基づいています。 プロジェクトの後の段階では、オフィスの居住者がモバイル アプリを使用してダニのデータを操作できるようにするため、承認と同意が必要になります。

マイツの研究者らはまた、センサーでのマイクの使用が音声録音に二者間の同意を義務付けるペンシルベニア州法に違反するかどうかを検討するため、大学の法務顧問によるプロジェクトを実施した。 同プロジェクトのFAQには、「我々はCMU法務顧問室と広範な議論を重ね、PA盗聴法に違反していないことが確認された」と書かれている。

ロボット掃除機会社は、あなたの画像は安全だと主張していますが、私たちのデバイスからのデータの無秩序に広がる世界的なサプライチェーンはリスクを生み出します。

全体として、ソフトウェア研究所はソフトウェアと社会システムに改名されて以来、分割されました。 学科長（ウィダー博士の論文の共同指導者）であるジェームズ・ハーブスレブを含む、最も力強い声を上げた人々は、学科のメンバーに研究を支援するよう奨励した。 「繰り返しますが、これは非常に重要なプロジェクトです…監視が日常的で避けられない未来を避けたいのであれば！」 彼は市庁舎の直後に電子メールに書いた。

「最初のステップは…これらのものがどのように動作するかを確認することでした」とハーブスレブ氏は言い、ダニセンサーを人々が試してみたくなるかもしれない動き検出器と比較した。 「それは純粋に、『動作検出器としてどの程度うまく機能するか』ということです。」 そして、ご存知のとおり、誰も同意を求められていません。ハードウェアの一部を試しているだけです。」

もちろん、このシステムの高度な機能は、ダニが単なる動作検知器ではないことを意味し、他の部門のメンバーは物事を違った見方で見ていました。 コンピューターサイエンス教授のジョナサン・アルドリッチは、「私は原則として同僚を信頼しており、彼らはその信頼に値すると信じているが、オフィスでマイク付きのセンサーを稼働させることを人々に求めるのは大変なことだ」と語る。 。」 同氏はさらに、「誰かを良い同僚だと信頼することは、その人にオフィスの鍵を渡したり、プライベートなことを記録できるものをオフィスに設置させることとは同じではない」と付け加えた。 オフィスのマイクを他人に制御させることは、「他人に鍵を渡すのとよく似ている」と彼は言う。

翌年に議論が深まるにつれて、学生たちは指導教官や学術界の英雄と対立することになったが、多くの学生は資金が豊富で大学が支援するプロジェクトに反対する声を上げた結果を恐れて、内々に反対した。

MIT Technology Reviewが入手した市庁舎のビデオ録画では、参加者は、研究者が建物の占有者や訪問者にデータ収集についてどのように通知するつもりなのかと質問した。 当時博士課程の学生だったジェシカ・コルナゴは、ダニが存在するだけで彼女が行っていたプライバシーに関する研究にどのような影響を与えるかを懸念していた。 「プライバシー研究者として、私は部屋にあるテクノロジーについて参加者に伝える道徳的義務を感じるだろう」と彼女は会議で述べた。 「ここにいる私たちは皆同僚であり」「お互いを信頼している」一方で、「外部参加者はそうではないかもしれない」と彼女は付け加えた。

出席者は、センサーがオフィスに来る頻度と時間を追跡できるかどうかも知りたいと考えていました。 「私はオフィス[X]にいます」とウィダー氏は語った。 「ダニはオフィス[X]から何かを録音していることを知っており、したがって私をオフィスの占有者として特定します。」 アガルワル氏は、生データの分析では、そのデータを特定の人々と照合しようとするものはないと答えた。

ある時点で、アガルワル氏は、ダニセンサーを使用して清掃スタッフを監視するというアイデアに賛同を得たと述べたが、聴衆の中にはアルゴリズムによる監視を促進するもの、または少なくとも不平等な力関係を明確に示すものであると解釈する人もいた。遊びで。

関係する労働者を監視するために使用できるセンサーシステム 歴史学部の科学、技術、社会の教授であり、人権科学センターの創設者でもあるジェイ・アロンソン氏は、ウィダー氏がこのプロジェクトを彼のところに持ち込んでからダニの存在に気づきました。注意。 アロンソン氏は、事務職員や施設職員などの大学職員は悪影響を受ける可能性が高く、利益を享受する可能性は低いと述べた。 「害と利益が均等に分配されるわけではない」と彼は付け加えた。

同様に、学生と終身在職権のない教員は、Mites プロジェクトから直接得られるものはほとんどないようで、データ収集そのものと、彼らが恐れていた反対の声の両方からの潜在的な影響に直面していました。 私たちは、研究プロジェクトと自分たちの懸念を表明することの両方に不快感を感じていたウィダー氏に加えて、5 人の学生と話をしました。

それらの学生のうちの1人は、大学院プログラムへの応募を検討する際に学部を紹介することを目的とした夏期プログラムの一環として、2021年にTCSホールで時間を過ごした45人の学部生からなる小規模なグループの一員でした。 町役場での集会で初めてダニのことを知った人もいた。 自分たちがビデオに撮られたり録音されたりするのではないかと不安になり、動揺する人もいた。

しかし、ダニたちは実際にはビデオを録画していませんでした。 また、マイクでキャプチャされた音声はすべてスクランブルされ、再構築できませんでした。

実際、研究者らは、ダニは利用可能なデータをまったく捕捉しておらず、そしてまだ捕捉していないと述べています。

ブーバラガバン氏が MIT Technology Review とのインタビューで述べたように、研究者にとって、収集されるデータに関するこの「誤った情報」は、プロジェクトの最大の不満の 1 つでした。

しかし、もし市庁舎がプロジェクトの詳細を明らかにすることを意図していたとしたら、それはむしろ混乱をさらに悪化させた。 以前の部門間の電子メール スレッドでは、センサーがまだデータを収集していないことが明らかにされていましたが、緊張した議論の中でそれは失われていました。 ある時点で研究者らは、治験審査委員会の承認（前月に承認を受けていた）がなければデータは収集されなかった、または今後収集される予定であると示唆し、また別の時点では、センサーは「遠隔測定データ」のみを収集していると述べた（基本的には、それらのデータが収集されていることを確認するため）電源が入っていて接続されている）、マイクは「すべてのプライベートオフィスでオフになっている」こと。 （MIT Technology Reviewに電子メールで送った声明の中で、Boovaraghavan氏は「データは研究チーム自身の私的または公共のスペースで収集されたが、他の占有者のスペースでは決して収集されていない」と明言した。）

満足していない人にとって、センサーが現在どのようなデータを捕捉しているかは、まったく重要ではありませんでした。 プロジェクトがまだ完全に稼働していなくても問題ありませんでした。 むしろ、懸念されたのは、これまでに入手可能なものよりも強力なセンサーが同意なしにオフィスに設置されていたことでした。 確かに、ダニはその時点ではデータを収集していませんでした。 しかし、研究者によってまだ特定されていないいつか、そうなる可能性があります。 そして影響を受けた人々は発言権を得ることができないかもしれない。

ウィダー氏は、市庁舎とその後の研究者らとの1対1の面会が実際に「より懸念を抱かせた」と語る。 彼はプラスドライバーをつかみました。 彼はオフィスのダニのプラグを抜き、壁と天井からセンサーのネジを外し、ジャックからイーサネット ケーブルを取り外しました。

彼は自分のダニを棚の上のプレキシガラスの箱に入れ、研究チーム、顧問、部門の指導者に電子メールを送り、センサーのプラグを外して無傷のまま保管し、返却したいことを伝えた。 彼は部門の他のメンバーとともに、自分の懸念をより詳細に記した匿名の公開書簡を書き上げた。

TCS ホールでの衝突は、プライバシーが主観的なものであるという点で、何がプライバシーへの取り組みを非常に困難にしているのかを示しています。 プライバシーが何を意味するか、個人データの収集に正確にいつ同意を必要とするか、あるいは何を個人データとしてカウントするかについて、合意された単一の基準はありません。 何が許容されるかについては、人によってさまざまな概念があります。 学生のプライバシーを研究するインディアナ大学の図書館情報科学教授カイル・ジョーンズ氏は、マイツの議論は、よりプライバシーを保護する方法でデータを収集するための技術的アプローチと「プライバシーのより大きな哲学的および社会科学的側面」との間の矛盾を浮き彫りにした。高等教育では、そう言います。

プライバシーに関する広範な議論におけるいくつかの重要な問題は、ダニ紛争全体を通して特に強力でした。 インフォームド・コンセントとは何を意味しますか?また、どのような状況で必要ですか? 「個人を特定できるデータ」の最も一般的な定義を満たしていないとしても、実際に個人を特定できるデータは何ですか? また、ユーザーに十分に明確に伝えられていない場合、プライバシー保護テクノロジーとプロセスを構築するのは適切でしょうか?

研究者にとって、これらの質問には単純な答えがありました。「文字通り、私に関するデータが収集されなければ、私のプライバシーは侵害されません」とハリソン氏は言います。

それでも、同意メカニズムは存在していたと研究者らは言う。 「リクエストによってセンサーの電源をオフにする機能は、最初から組み込まれていました。同様に、Mites ボード上の個々のセンサーをオン/オフにする機能も、最初から組み込まれていました」と彼らは電子メールに書いています。 。

中国の新しい国家データ局の詳細は、データセキュリティとプライバシーをどの程度管理するかなど、まだ明らかにならない。

しかし、社内の Slack でのやりとりが示したように、この機能は存在していたかもしれませんが、部門に十分に伝わっていませんでした。 「送信された 1 通の一般メールには、それらをオフにする手順が記載されていませんでした」とアルドリッチ氏は指摘しました。

私たちが話を聞いた学生たちは、注目を集める研究プロジェクトにオプトインする機会を与えるのではなく、オプトアウトを要求することは、大学の力関係を説明できないという現実を強調しました。 MIT Technology Reviewに宛てた電子メールの中で、ウィダー氏は、建物の占有者の多くがそのことに気づいておらず、オプトアウトすると研究に本質的に同意しない人が特定されてしまうため、電子メールによるリクエストによるオプトアウトのオプションは有効ではないと考えていると述べた。

アルドリッチ氏はさらに、テクノロジー自体にも懸念を抱いていました。

「彼らが行ったことから音声を再構築できますか? 十分なビットがあるので理論的には可能です」と彼は言う。 「[研究チームは]それは不可能だと考えていますが、その証拠はありませんよね？」

しかし、2 番目の懸念は社会的なものでした。アルドリッチ氏は、部門外の同僚がセンサーを理由に TCS ホールで会わないように頼むまで、プロジェクトのことは気にしていなかったと言います。 それが彼の考えを変えた。 「同僚が私のオフィスに来て私と会うのを妨げるような何かを本当にオフィスに置きたいですか? 答えは明らかにノーでした。私はそれについてどう感じましたか、私はそれが不利益になることを望んでいませんでした。」他の誰かが私のオフィスで私と会ったり、不快な思いをさせたりすることを思いとどまらせます」と彼は言う。

マイツのチームは、建物の周囲（廊下、共用エリア、階段の吹き抜け、一部の部屋）に、装置の内容と収集対象を説明する標識を設置した。 最終的に研究者らは、プロジェクトの 20 ページの FAQ 文書にリンクする QR コードを追加しました。 標識はレターサイズの小さな紙をラミネート加工したもので、一部の訪問者は見落としやすく理解しにくいと述べた。

「これを見たとき、すごい、何が起こっているのかをほんの少しだけ説明したものだと思った」と、そのような訪問者の一人である学部生のセ・ア・キムは述べた。 TCS の公共スペースでのデータ収集を訪問者に認識させる方法を探るデザイン学校の課題。 彼女が何人もの人々にインタビューしたとき、彼女はセンサーのことをまだ知らない人が多いことに驚きました。

マイツ反対派が繰り返している懸念の1つは、現在のマイツの展開が写真やビデオなどの最も機密性の高いデータを収集するように設定されておらず、個人を特定することを意図していないとしても、どのようなデータが収集されるか、または何を収集するかについてはほとんど言及していないことです。将来的には、そのデータが結合される可能性があります。 プライバシー研究者は、集約された匿名化データは簡単に匿名化を解除できることを繰り返し示してきました。

これは、スマートフォンなどで収集された、はるかに大規模なデータ セットの場合によく発生します。 アプリや Web サイトには電話番号や携帯電話の所有者の名前が含まれていない場合がありますが、多くの場合、位置情報データにアクセスできるため、詳細を特定するリバース エンジニアリングが容易になります。 （その後、ダニ研究者らは、複数のオフィスをグループ化することで、プライベートオフィスでのデータ収集の処理方法を変更しました。これにより、個々の占有者の行動を確認することが困難になりました。）

再識別の可能性を超えて、ユーザーのデータに正確にアクセスできるのは誰ですか IoT デバイスでは、偶然かシステム設計によるかは不明であることがよくあります。 ベビーモニターから Google Home スピーカー、ロボット掃除機に至るまで、消費者向けスマートホーム デバイスがハッキングされたり、ユーザーの認識や同意なしにデータが共有されたりする事件は数多くあります。

マイツの研究チームは、これらのよく知られたプライバシー問題とセキュリティ侵害を認識していましたが、これらの前例をさらに強力な IoT デバイスの設置を信頼しない理由とみなした批評家とは異なり、アガルワル氏、ブーヴァラガバン氏、ハリソン氏は、これらの前例を次のように考えていました。より良いものを作るモチベーション。 「Alexa と Google Home は非常に興味深いテクノロジーですが、信頼が崩れるためにそれらを使用することを拒否する人もいます」とハリソン氏は言います。 研究者の仕事は、最初から信頼できる新しいデバイスを構築する方法を見つけ出すことだと彼は感じた。

以前に登場したデバイスとは異なり、プライバシーが保護されます。

2021年の春、ウィダーさんは大学のコンピューティング機器を改ざんしたという不正行為の疑いで捜査を受けていることを知らせる手紙を受け取った。 また、彼の行動はいじめとみなされる可能性があると警告した。

MIT Technology Reviewと共有された部門全体の電子メールスレッドは、ダニスの議論がどれほど個人的なものになったか、そして一部の同僚の目にウィダーが悪者になったかを示唆している。 「人々が勝手にセンサーを取り出したり（文字通り問題を自分たちの手に委ねるつもりなら、このような深い会話に何の意味があるのでしょうか？）、ソーシャルメディアに投稿する人々は*倫理的ではありません*」と、ある教授は書いている。 (教授はウィダーの名前は明かさなかったが、彼がその両方を行ったことは広く知られていた。)

「ここでいじめられたと感じた人もいると思いますし、そのことは肝に銘じています」とウィダー氏は言うが、同時に疑問にも思っている、「もし私たちがこの種の議論に慣れていないとしたら、そして…真剣に受け止められないか、それとも…いじめとして受け取られますか？」 （研究者らはいじめ疑惑に関する質問には応じなかった。）

ウィダー氏がセンサーを元に戻して謝罪したことで懲戒処分は取り下げられたが、アルドリッチ氏にとって、「この手紙は、教員にとって不都合な問題について声をあげたデイヴィッドを罰し、彼や他の人々からの批判を黙らせる手段として機能している」としている。将来的には」と彼はウィダー氏の博士論文審査への公式返答で書いた。

学部長でウィダー氏の顧問であるハーブスレブ氏は、学生のプライバシーを理由に、同氏が「非公開の内部文書」と呼ぶものについてコメントを拒否した。

ウィダー氏は自分の批判が原因で罰せられたと信じているが、研究者らはそれらの批判の一部をすでに考慮に入れていた。 たとえば、研究者らは、建物の占有者に電子メールでオプトアウトを依頼することで、オフィスのダニセンサーをオフにできるようにすることを提案した。 しかし、これは公共の場では依然として不可能であり、その理由の一部は「公共の場に誰がいるのかさえ知る方法がない」ためだと研究者らは語った。

2023年2月までに、ウィダー氏とアルドリッチ氏を含む110のオフィスのうち9つのオフィスの占有者が、自分のオフィスのダニセンサーを無効にするよう研究者に書簡を送った。

研究者らは、この少数の数字が、ほとんどの人がダニに対して大丈夫である証拠であると指摘しています。 しかしウィダー氏はこれに同意しない。 それが証明しているのは、人々が自分のダニセンサーを取り外したことで彼がどのように報復されたかを見て、ダニセンサーをオフにしてほしいと頼むのを思いとどまったということだけだと彼は言う。 「これが強制的な意図であったかどうかは関係なく、そのような効果があると思います」と彼は言う。

昨年10月の雨の日、TCSホールの4階にあるガラス張りの会議室で、マイツの研究チームは、自分たちのプロジェクトをめぐって高まる緊張――全部門にわたる白熱した、時には個人的なメール、Slackのやりとり、タウンホールなど――のせいだと主張した。研究プロセスの通常の一部でした。

「皆さんはこの不一致をネガティブなレンズを通して見るかもしれませんが、私たちはそうではありません」とハリソン氏は語った。

「人々が合法的に…問題を提起できるプロジェクトを促進できたのは素晴らしいことだと思います…それは良いことです」と彼は付け加えた。

「非常に慎重な方法でこれ（センサー研究）を行う方法の最高点になることを願っています」とアガルワル氏は語った。

他の教員は、プライバシー工学教授で著名なプライバシー専門家であるローリー・クラナー氏のように、マイツ・プロジェクトの熱心な支持者となった教員さえも、物事は別の方法で行われた可能性があると述べている。 「今になって思えば、事前にもっとコミュニケーションをとるべきだった」とクラナー氏は認める。そして、こうした会話は在校生も参加できるように継続的に行われるべきだった。 学界では自然な人事異動が行われているため、長年勤務している教員が何年も前にこのプロジェクトについて知らされていたにもかかわらず、その多くはこうした議論に参加する機会がなかったと彼女は言う。

彼女は、プロジェクトをどのように改善できるかについての提案も行っています。 「もしかしたら、ライブストリームを提供するディスプレイに接続されたダニセンサーが公共エリアに必要になるかもしれません。その前で飛び跳ねたり、口笛を吹いたり、あらゆる種類の操作を行って、どのようなデータが送信されているかを確認できます。 " 彼女が言います。 あるいは、人々にデータをダウンロードさせて、「これから何を再構成できるでしょうか? ...リバース エンジニアリングして何かを理解できるのであれば、ここにいる誰かがおそらくそうするでしょう。」 そうでない場合、人々はプロジェクトを信頼する傾向があるかもしれません。

この機器にはオンオフスイッチが付いている可能性もある、と学部長のハーブスレブ氏は認める。「もしこうした懸念がもっと早くに認識されていれば、ユヴラージ（アガルワル氏）はきっとそのように設計していたと思う」。 (ウィダー氏は依然として、デバイスにはオフ スイッチが必要だと考えています。)

しかしそれでも、批評家にとって、これらの実際の改善案や提案された改善案は、「公の場での会話が以前からではなく、論争のせいで起こっている」という事実を変えるものではないとアロンソン氏は言う。

また、研究の改善によってウィダーが経験したことがなくなるわけでもありません。 「私が懸念を表明したとき、特に早い段階で、私は注目を集める者として、いじめっ子、破壊者として扱われました。それで、今、人々がこれによってプロセスが改善されたと示唆しているとしたら？」と彼は言います。 彼はイライラして立ち止まった。 "わかった。"

さらに、CMU の研究プロセスで行われた改善以外にも、このテクノロジーが現実の世界でどのように使用されるかという問題がまだ残っています。 この技術の商用化されたバージョンには、「より高品質のカメラ、より高品質のマイク、より多くのセンサーが搭載され、…より多くの情報が吸い込まれる可能性がある」とアロンソン氏は指摘する。 マイツのようなものが一般に公開される前に、それが必要なのか、望ましいのかについて「大きな話し合いをする必要がある」と彼は言う。

「全体像は、雇用主やこれらの機器を製造する企業が私たちをスパイするために使用しないと信頼できるのかということです。」 アルドリッチ氏は付け加えた。 「一部の雇用主は、自分たちがそのような信頼に値しないことを証明した。」

しかし研究者らは、商業用途について心配するのは時期尚早かもしれないと考えている。 「これは研究であり、商業製品ではない」と彼らは電子メールで送った声明で述べた。 「高度に制御された環境でこの種の研究を実施することで、発見と革新を学び、前進させることができます。マイツプロジェクトはまだ初期段階にあります。」

しかし、その枠組みには問題がある、とアロンソン氏は言う。 「実験場所は研究室やシャーレではありません。シミュレーションでもありません。生身の人間が毎日入って生活する建物です。」

このプロジェクトの最も声高な批評家であるウィダー氏は、もしそれがもっと参加的で「協力的」だったら、おそらくマイツについて違った感情を抱いていたかもしれないという別のシナリオを想像することができる。 おそらく、研究者らは、機器を紹介書や説明書と一緒に部門メンバーの机の上に置いて、参加するかどうかを決定できるようにすることもできたのではないかと同氏は示唆している。 そうすれば、「そもそもオフィスにこれらを置くことさえオプトイン同意の原則に基づいて」調査が確実に行われたはずだ。 言い換えれば、暗号化やエッジコンピューティングなどの技術的機能が意味のある同意に取って代わることはできない、と同氏は考えている。

ただし、このような調整を行っても、ウィダーの気持ちが根本的に変わるわけではありません。 「私は、この種のセンサーがあらゆる場所に存在する未来という前提を受け入れるつもりはありません」と彼は言う。

TCS ホールの壁と天井に残っている 314 匹のダニは、現時点では駆除される可能性は低いです。 しかし、このプロジェクトを巡る争いが収束したとしても、プライバシーに関する議論はまさに始まったばかりだ。

更新: このストーリーは 4 月の市庁舎に関する詳細で更新されました。

「これらの生物が私たちよりも賢くなるのではないかということで、突然考え方を切り替えました。」

職場ツールの魅力は、仕事プロジェクトの組織化をはるかに超えています。 多くのユーザーは、自由時間を管理するのにも同様に便利だと感じています。

これまで、コーディングを学ぶ取り組みは少数の人に機会を提供してきましたが、新しい取り組みは包括的なものを目指しています。

ヒントン氏は水曜日に EmTech Digital で講演します。

特別オファー、トップ記事、今後のイベントなどをご覧ください。

メールを送信していただきありがとうございます。

何か問題があったようです。

設定を保存できません。 このページを更新して、もう一度更新してみてください。 このメッセージが引き続き表示される場合は、受信を希望するニュースレターのリストを添えて、[email protected] までご連絡ください。