Ini adalah catatan tetamu dari John Carr, pemikir terkemuka di UK untuk membuang imej penderaan kanak-kanak dari internet. Blog asal penyiasatan oleh New York Times muncul di John's Desiderata tapak. Kami telah menampilkan blog baru-baru ini dari John di sini, disini and disini.

Pada bulan September, New York Times menghasilkan pertama dalam satu siri artikel di mana mereka memfokuskan pada tindak balas industri internet terhadap pertumbuhan eksplosif dalam pengesanan bahan penderaan seks kanak-kanak dalam talian (csam).

Mereka bermula dengan statistik yang dibekalkan oleh NCMEC. Pada tahun 1998 mereka menerima 3,000 laporan csam. Jumlah 2018 adalah 18.4 juta laporan, merujuk 45 juta gambar dan video csam.

Kami dimaklumkan dalam a artikel kemudian pada tahun 2013 kurang daripada 50,000 video csam telah dilaporkan. Pada tahun 2018 ia meningkat hingga 22 juta. Video telah menjadi kawasan pertumbuhan utama. The Pusat Perlindungan Kanak-Kanak Kanada dan UK Yayasan Watch Internet telah menyaksikan tahap pertumbuhan yang serupa.

Mengejutkan walaupun angka-angka ini, mungkin apa yang mereka tunjukkan hanyalah peningkatan penggunaan proaktif dan keberkesanan alat yang digunakan untuk mengesan csam dengan jumlah syarikat internet yang agak kecil.

Walau bagaimanapun, apa yang ditunjukkan oleh artikel New York Times pada dasarnya adalah ketidakcukupan tindak balas industri internet yang lebih luas dan memang ketidakcukupan tindak balas sebilangan pelakon utama industri ini. Kami telah menuju jalan kebun.

Sekiranya keselamatan dan keselamatan anak benar-benar tertanam dalam budaya syarikat, kisah seperti yang diterbitkan oleh New York Times sama sekali tidak mungkin. Tetapi mereka telah muncul selama bertahun-tahun jika tidak pernah sebelumnya dengan perincian forensik seperti itu.

Gabungan Teknologi

Pada tahun 2006 Gabungan Teknologi telah ditubuhkan. Inilah misi yang dinyatakan

Visi kami adalah untuk membasmi eksploitasi seksual kanak-kanak dalam talian. Kami telah melabur dalam bekerjasama dan berkongsi kepakaran antara satu sama lain, kerana kami menyedari bahawa kami mempunyai matlamat yang sama dan menghadapi banyak cabaran yang sama.

Ini adalah rubrik standard. Anda selalu mendengarnya. Dari semua orang. Itu tidak benar.

Penglibatan Kanak-kanak Jalankan Beramai-ramai sebagai Syarikat Teknik Lihat Jalan Lain

Itulah tajuk untuk yang kedua artikel dalam siri New York Times. Ia benar-benar bertiup fasad pemacu industri kolektif yang bertenaga, bertujuan untuk menghilangkan csam dari internet.

Berikut adalah beberapa ekstrak dari sekeping:

Syarikat-syarikat mempunyai alat-alat teknikal untuk menghentikan peredaran semula imejan penyalahgunaan dengan memadankan imej yang baru dikesan berbanding pangkalan data bahan. Namun industri ini tidak memanfaatkan sepenuhnya alat tersebut.

Khususnya kami diberitahu

Rangkaian sosial terbesar di dunia, Facebook, dengan teliti mengimbas platformnya, menyumbang lebih daripada 90 peratus daripada imejan yang ditandai oleh syarikat-syarikat berteknologi tahun lepas, tetapi syarikat tidak menggunakan semua pangkalan data yang ada untuk mengesan bahan… .. (tambah penekanan).

Apple tidak mengimbas penyimpanan awannya…. dan menyulitkan aplikasi pesanannya, membuat pengesanan hampir mustahil. Produk pengguna Dropbox, Google dan Microsoft mengimbas gambar haram, tetapi hanya apabila seseorang membagikannya, bukan ketika gambar dimuat.

... syarikat lain, termasuk…. Yahoo (dimiliki oleh Verizon), mencari gambar tetapi bukan video, walaupun kandungan video haram telah meletup selama bertahun-tahun. 

Menurut Kali

Tidak ada satu senarai hash imej dan video yang boleh digunakan oleh semua syarikat yang berkaitan.

Google dan Facebook mengembangkan alat untuk mengesan video csam yang berbeza dan tidak serasi. Rancangan untuk membuat proses untuk berkongsi video "Cap jari" (hash untuk mempercepat pengesanan) nampaknya telah tiada tempat. 

Ada lagi

Syarikat teknologi lebih cenderung untuk mengkaji foto dan video dan fail lain di platform mereka untuk…. pengesanan malware dan penguatkuasaan hak cipta. Tetapi sebilangan perniagaan mengatakan mencari kandungan penyalahgunaan adalah berbeza kerana boleh menimbulkan masalah privasi yang ketara.

Amazon, diakui bukan anggota Gabungan Teknologi tetapi penyedia perkhidmatan awan terbesar di dunia, tidak mencari apa-apa.

Jurucakap Amazon…. mengatakan bahawa "privasi data pelanggan sangat penting untuk mendapatkan kepercayaan pelanggan kami," ...... Microsoft Azure juga mengatakan ia tidak mencari bahan tersebut, dengan alasan yang serupa.

Pada satu ketika ia akan menarik untuk membongkok apa "Kepercayaan pelanggan" benar-benar bermakna.

Dan kita tahu semua ini kerana ...

Bagaimana kita mengetahui semua ini? Apakah itu muncul sebagai hasil deklarasi terbuka oleh syarikat teknologi? Jelas tidak. Mengikuti analisis yang teliti oleh pasukan akademik yang berdedikasi? Tidak. Adakah kebenaran telah diungkap oleh badan penegak hukum, NGO atau badan pemerintah yang akhirnya memutuskan omertà tidak untuk kepentingan umum? Tidak.

Kami mendapat gambaran ini kerana pengurusan New York Times memutuskan untuk memberi dua wartawan, Michael Keller dan Gabriel Dance, ruang dan sumber untuk mengejar kisah yang penting.

Saya berjumpa dengan orang-orang ini untuk kali pertama di pejabat New York Times pada Isnin lepas tetapi saya bercakap dengan mereka pada awalnya pada bulan Jun. Mereka telah menyiasat csam sejak Februari, terbang (secara harfiah), bercakap dengan pelbagai orang, menyusun sesuatu bersama dari rekod dan di luar sumber rekod.

Ini adalah usaha besar yang membuat percikan sepadan di muka depan kertas. Nampaknya ada kesan yang diinginkan.

Surat dari lima Senator

Satu akibat segera dari artikel New York Times muncul minggu lepas apabila lima Senator AS (dua Demokrat, tiga Republikan) menulis yang hebat surat terperinci kepada tiga puluh enam syarikat teknologi. Mereka termasuk semua ahli Gabungan Teknologi dan banyak lagi. Para senator mahu jawapan oleh 4th Disember.

Mari lihat bagaimana syarikat bertindak balas. Surat itu mengandungi semua soalan yang tepat. Mereka adalah syarikat teknologi tepat yang harus diwajibkan untuk menjawab. Setelah pilihan raya UK berakhir, harap kita dapat bergerak cepat untuk membentuk pengatur yang kuat yang dapat meminta mereka yakin mereka akan menerima balasan yang benar. Segala keraguan atau keengganan syarikat AS untuk menjawab surat Senator hanya akan menimbulkan rasa mendesak di sini.

The New York Times telah membantu kanak-kanak di seluruh dunia

Kanak-kanak dunia lebih berhutang kepada Keller dan Dance dan bos mereka banyak tetapi agak kurang skandal yang mengambil akhbar untuk meniupnya. Di manakah badan kepentingan awam yang mempunyai sumber dan keupayaan untuk mengesan dan melaporkan secara konsisten dari masa ke semasa mengenai hal-hal semacam ini? Ia tidak wujud. Sepatutnya.

Saya telah berhujah selama bertahun-tahun bahawa kita memerlukan Observatorium Global, antara lain untuk melakukan secara rutin apa yang baru dilakukan oleh New York Times. Di suatu tempat perlu ada agensi bebas yang mempunyai sumber yang betul yang mempunyai kepentingan anak-anak di pusatnya dan industri teknologi tinggi di tempatnya. Tetapi badan seperti itu perlu dikekalkan dari masa ke masa. Itu adalah perkara yang besar dan mahal untuk dilakukan tetapi saya akan berusaha lagi untuk melakukannya.