Fungsi carian sedang dalam pembinaan.
Fungsi carian sedang dalam pembinaan.

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. ex. Some numerals are expressed as "XNUMX".
Copyrights notice

The original paper is in English. Non-English content has been machine-translated and may contain typographical errors or mistranslations. Copyrights notice

Model Inversion Attacks for Online Prediction Systems: Without Knowledge of Non-Sensitive Attributes Serangan Penyongsangan Model untuk Sistem Ramalan Dalam Talian: Tanpa Pengetahuan tentang Atribut Tidak Sensitif

Seira HIDANO, Takao MURAKAMI, Shuichi KATSUMATA, Shinsaku KIYOMOTO, Goichiro HANAOKA

  • pandangan teks lengkap

    0

  • Petikan Ini

Ringkasan:

Bilangan perkhidmatan IT yang menggunakan algoritma pembelajaran mesin (ML) berkembang secara berterusan dan pesat, manakala kebanyakannya digunakan dalam amalan untuk membuat beberapa jenis ramalan daripada data peribadi. Tidak menghairankan, disebabkan ledakan mendadak dalam ML ini, cara data peribadi dikendalikan dalam sistem ML mula menimbulkan kebimbangan privasi yang serius yang sebelum ini tidak diambil kira. Baru-baru ini, Fredrikson et al. [USENIX 2014] [CCS 2015] mencadangkan serangan baru terhadap sistem ML yang dipanggil serangan penyongsangan model yang bertujuan untuk membuat kesimpulan sensitif nilai atribut pengguna sasaran. Dalam kerja mereka, untuk serangan penyongsangan model berjaya, musuh dikehendaki mendapatkan dua jenis maklumat mengenai pengguna sasaran sebelum serangan: nilai output (iaitu, ramalan) sistem ML dan semua tidak sensitif nilai yang digunakan untuk mempelajari output. Oleh itu, walaupun serangan itu menimbulkan kebimbangan privasi baharu, memandangkan musuh dikehendaki mengetahui semua nilai tidak sensitif terlebih dahulu, ia tidak jelas sepenuhnya berapa banyak risiko yang ditanggung oleh serangan itu. Khususnya, walaupun pengguna mungkin menganggap nilai ini sebagai tidak sensitif, mungkin sukar bagi pihak lawan untuk mendapatkan semua nilai atribut tidak sensitif sebelum serangan, justeru menjadikan serangan itu tidak sah. Matlamat kertas ini adalah untuk mengukur risiko serangan penyongsangan model dalam kes apabila atribut tidak sensitif pengguna sasaran tidak tersedia kepada musuh. Untuk tujuan ini, kami mula-mula mencadangkan rangka kerja penyongsangan model umum (GMI), yang memodelkan jumlah maklumat tambahan yang tersedia kepada musuh. Rangka kerja kami menangkap serangan penyongsangan model Fredrikson et al. sebagai kes khas, sambil juga menangkap serangan penyongsangan model yang menyimpulkan atribut sensitif tanpa pengetahuan tentang atribut tidak sensitif. Untuk serangan terakhir, kami menyediakan metodologi umum tentang cara kami boleh membuat kesimpulan atribut sensitif pengguna sasaran tanpa pengetahuan tentang atribut tidak sensitif. Pada tahap yang tinggi, kami menggunakan paradigma keracunan data dengan cara yang baru dari segi konsep dan menyuntik data berniat jahat ke dalam sistem ML untuk mengubah suai model ML dalaman yang digunakan menjadi sasaran model ML; jenis khas model ML yang membolehkan seseorang melakukan serangan penyongsangan model tanpa pengetahuan tentang sifat tidak sensitif. Akhir sekali, mengikut metodologi umum kami, kami menghantar sistem ML yang secara dalaman menggunakan model regresi linear ke dalam rangka kerja GMI kami dan mencadangkan algoritma konkrit untuk serangan penyongsangan model yang tidak memerlukan pengetahuan tentang sifat tidak sensitif. Kami menunjukkan keberkesanan serangan penyongsangan model kami melalui penilaian percubaan menggunakan dua set data sebenar.

Jawatankuasa
IEICE TRANSACTIONS on Information Vol.E101-D No.11 pp.2665-2676
Tarikh penerbitan
2018/11/01
Diumumkan
2018/08/22
ISSN dalam talian
1745-1361
DOI
10.1587/transinf.2017ICP0013
Jenis Manuskrip
Special Section PAPER (Special Section on Information and Communication System Security)
kategori
Forensik dan Analisis Risiko

Pengarang

Seira HIDANO
  KDDI Research, Inc.
Takao MURAKAMI
  National Institute of Advanced Industrial Science and Technology (AIST)
Shuichi KATSUMATA
  National Institute of Advanced Industrial Science and Technology (AIST),University of Tokyo
Shinsaku KIYOMOTO
  KDDI Research, Inc.
Goichiro HANAOKA
  National Institute of Advanced Industrial Science and Technology (AIST)

Kata kunci

Contents [show]