Rekaman gelombang otak dari perangkat pemantau tidur ternyata dapat digunakan untuk melatih kecerdasan buatan, bukan sekadar membantu pengguna melihat pola istirahatnya. Investigasi majalah Science bersama Pulitzer Center’s AI Accountability Network menemukan perusahaan neuroteknologi telah menghimpun puluhan juta jam data elektroensefalografi (EEG). Sebagian rekaman itu dipakai untuk mengembangkan model AI, sementara tujuan tersebut belum selalu diterangkan secara jelas kepada pelanggan.

Temuan ini mengangkat persoalan mendasar bagi pemilik wearable: sejauh mana mereka memahami pemanfaatan data yang merekam aktivitas otak? Data yang mulanya dikumpulkan saat seseorang tidur atau bermeditasi dapat beralih fungsi menjadi bahan pengembangan teknologi. Perubahan tujuan itu menjadi perhatian karena rekaman neural menyangkut informasi biologis yang berbeda dari data penggunaan aplikasi biasa.

Penggunaan data Muse baru dijelaskan setelah ditanya

Interaxon, perusahaan Kanada yang membuat headband Muse untuk tidur dan meditasi, disebut telah menggunakan sekitar 50.000 jam rekaman EEG untuk melatih model AI. Perusahaan menyatakan data tersebut lebih dulu dipisahkan dari informasi pengenal, termasuk nama, alamat surel, dan alamat pengguna.

Nadia Kumentas, Chief Marketing Officer Interaxon, mengatakan perusahaan berusaha memakai sebanyak mungkin rekaman yang memenuhi persyaratan untuk keperluan itu. Namun, menurut laporan Science, kebijakan privasi yang berlaku sebelum investigasi tidak menjelaskan secara tegas bahwa data otak pelanggan dapat dipakai melatih foundation model.

“Kami berupaya menggunakan sebanyak mungkin korpus yang memenuhi syarat itu,” ujar Nadia Kumentas.

Interaxon memperbarui kebijakan privasinya setelah dimintai keterangan. Kumentas mengakui pelanggan semestinya memperoleh penjelasan langsung mengenai penggunaan tersebut. Bagi orang yang datanya sudah masuk ke proses pelatihan, perubahan informasi itu muncul setelah pemanfaatan berlangsung. Situasi tersebut juga berpotensi memicu persoalan hukum, meski bahan investigasi tidak merinci adanya gugatan yang telah diajukan terhadap perusahaan.

“Kami setuju pengguna harus diberi tahu secara eksplisit,” kata Kumentas.

Aturan persetujuan belum seragam

Interaxon bukan satu-satunya produsen yang mengembangkan model dari data EEG. Emotiv, perusahaan pembuat perangkat wearable EEG, menyatakan model Large Brain miliknya sebagian dilatih memakai rekaman pelanggan perangkat kelas atas. Setelah mendapat pertanyaan dari Science, perusahaan itu mengubah kebijakan privasi untuk menjelaskan pemakaian data neural yang dianonimkan. Pelatihan model mensyaratkan persetujuan opt-in.

Masalah persetujuan juga berhubungan dengan perpindahan kepemilikan perusahaan. Science menemukan lebih dari dua pertiga perusahaan dalam penelitiannya secara eksplisit memperbolehkan pemindahan data perusahaan tanpa persetujuan pengguna. Jika perusahaan neuroteknologi dibeli, rekaman yang sudah terkumpul dapat ikut berpindah kepada pemilik baru.

Perlindungan hukum belum sama di setiap wilayah. Colorado dan California telah memperluas undang-undang privasi konsumen mereka agar mencakup data neural. Sejumlah negara bagian lain belum memiliki aturan serupa, menurut laporan tersebut. Perbedaan ini membuat hak pengguna atas rekaman otak bergantung, antara lain, pada aturan yang berlaku di tempat mereka.

Model EEG punya potensi, tetapi bukan pembaca pikiran

Model yang dilatih dengan EEG bekerja dengan mempelajari pola aktivitas listrik otak. Pendekatannya berbeda dari model bahasa besar yang belajar dari kumpulan teks. Pengembang dapat menyesuaikan model EEG untuk tugas tertentu, misalnya mengenali kondisi otak atau mendukung penelitian.

Salah satu contoh yang dikutip dalam laporan adalah Piramidal. Startup AI itu membuat model dengan lebih dari empat juta jam data EEG melalui kemitraan dengan Cleveland Clinic. Setelah disesuaikan menggunakan rekaman klinik, sistem deteksi kejangnya mengenali sembilan dari sepuluh kejang dalam sebuah studi pilot. Hasil tersebut menunjukkan kegunaan potensial data neural, tetapi tidak berarti perangkat tidur konsumen dapat membaca isi pikiran.

Perangkat EEG yang dipakai konsumen umumnya memiliki satu sampai enam elektroda. Sistem klinis biasanya menggunakan 19 hingga 25 elektroda, sehingga rekaman dari headband konsumen lebih terbatas dan tidak selengkap pemeriksaan klinis.

Risiko keamanan perangkat juga pernah muncul dalam kasus lain. Pada Februari, seorang engineer yang memeriksa smart sleep mask karena mengalami masalah koneksi menemukan bahwa aplikasi Android perangkat itu menyimpan kredensial yang tertanam. Ia kemudian mendapati aplikasi tersebut dapat menampilkan bacaan EEG milik pengguna lain. Temuan itu menambah alasan untuk menilai keamanan penyimpanan dan akses data, bukan hanya isi kebijakan privasi.

Investigasi Science memperlihatkan bahwa aturan tentang pengumpulan dan penggunaan data neural masih berkembang seiring teknologi yang memakainya. Bagi pengguna, keterangan yang jelas tentang tujuan pengumpulan, persetujuan, dan kemungkinan pemindahan data menjadi hal yang perlu diperiksa sebelum mengenakan perangkat. Perusahaan yang mengubah kebijakannya kini harus menjelaskan penggunaan tersebut secara terbuka kepada pelanggan.

Berandara