классического «теста» Тьюринга, который является не философским стандартом успешности ИИ, а риторическом устройством, позволяющим приучить читателей к мысли о том, что статус личности может присваиваться после выполнения определенных задач.

214

Это важно, поскольку, как утверждала юрист и философ Мирей Хильдебрандт, «агентность, управляемая данными», обычная для алгоритмических систем, строится на «информации и поведении, а не на смысле и действии». См.: Mireille Hildebrandt, “Law as Information in the Era of Data-Driven Agency,” Modern Law Review 7$ (2016): 1, 2.

215

В главе 8 подробно обсуждается это различие.

216

Darling, “Extending Legal Protection to Social Robots.”

217

Benjamin Herold, “Pearson Tested ‘Social-Psychological’ Messages in Learning Software, with Mixed Results,” Education Week: Digital Education (blog), April 17, 2018, http://blogs.edweek.org/edweek/Digi-talEducation/2018/o4/pearson_growth_mindset_software.html.

218

См., например: James Grimmelmann, “The Law and Ethics of Experiments on Social Media Users,” Colorado Technology Law Journal 13 (2015): 219–227, где обсуждаются письма Гриммельмана и Лесли Мельтцер Генри об эмциональных экспериментах Facebook. См.: Chris Gilliard, “How Ed Tech Is Exploiting Students,” Chronicle of Higher Education, April 8, 2018, https://www.chronicle.com/article/ How-Ed-Tech-Is-Exploiting/243020.

219

Sarah Schwarz, “YouTube Accused of Targeting Children with Ads, Violating Federal Privacy Law,” Education Week: Digital Education (blog), April 13, 2018, http://blogs.edweek.org/edweek/DigitalEduca-tion/2018/o4/youtube_targeted_ads_coppa_complaint.html; John Montgallo, “Android App Tracking Improperly Follows Children, Study,” QR Code Press, April 18, 2018, http://www.qrcodepress.com/ android-app-tracking-improperly-follows-children-study/8534453/.

220

James Bridle, “Something Is Wrong on the Internet,” Medium, November 6, 2017, https://medium.com/(ajamesbridle/something-is-wrong-on-the-internet-c39C47i27id2.

221

Nick Statt, “YouTube Will Reportedly Release a Kids’ App Curated by Humans,” Verge, April 6, 2018, https://www.theverge. com/2 018/4/6/172 0853 2/youtube-kids-non-algorithmic-version-whitelisted- conspiracy-theories.

222

Natasha Singer, “How Companies Scour Our Digital Lives for Clues to Our Health,” New York Times, February 25, 2018, https://www.ny-times.com/2018/o2/25/technology/smartphones-mental-health. html.

223

Sam Levin, “Facebook Told Advertisers It Can Identify Teens Feeling ‘Insecure’ and ‘Worthless,’ ” Guardian, May 1, 2017, https:// www.theguardian.com/technology/2017/may/o1/facebook-advertising-data-insecure-teens.

224

Julie Е. Cohen, “The Regulatory State in the Information Age,” Theoretical Inquiries in Law 17, no. 2 (2016): 369–414.

225

Ирвинг Гофман, Представление себя другим в повседневной жизни (Москва: «КАНОН-пресс-Ц», «Кучково поле», 2000).

226

Пример австралийского судебного разбирательства, на котором суд отказался принять показания, основанные на записи, сделанной игрушкой ребенка, см.: Gorman & Huffman [2015] Fam-CAFC 127.

227

Complaint and Request for Investigation, Injunction, and Other Relief at 2, In re: Genesis Toys and Nuance Communications, submitted by the Electronic Privacy Information Center, the Campaign for a Commercial Free Childhood, the Center for Digital Democracy, and Consumers Union (December 6, 2016), https://epic.org/privacy/kids/ EPIC–IPR-FTC-Genesis-Complaint.pdf. Некоторые европейские власти нашли способ эффектно и креативно вмешаться в проблему. Норвежский совет потребителей представил способность игрушек к мониторингу в созданном им видеофильме. Немецкое федеральное агентство посоветовало родителям уничтожить такие игрушки, поскольку они нарушают закон, запрещающий скрытые шпионящие устройства.

228

Ibid., 10.

229

“Millions of Voiceprints Quietly Being Harvested as Latest Identification Tool,” Guardian, October 13, 2014, https://www.theguardian. com/technology/20i4/oct/i3/millions-of-voiceprints-quietly-being-harvested-as-latest-identification-tool.

230

Nicola Davis, “ ‘High Social Cost’ Adults Can Be Predicted from as Young as Three, Says Study,” Guardian, December 12, 2016, https:// www.theguardian.com/science/2016/dec/12/high-social-cost-adults-can-be-identified-from-as-young-as-three-says-study; Avshalom Cas-pi, Renate M. Houts, Daniel W. Belsky, Honalee Harrington, Sean Hogan, Sandhya Ramrakha, Richie Poulton, and Terrie E. Moffitt, “Childhood Forecasting of a Small Segment of the Population with Large Economic Burden,” Nature Human Behaviour 1, no. 1 (2017): article no. UNSP 0005.

231

Mary Shacklett, “How Artificial Intelligence Is Taking Call Centers to the Next Level,” Tech Pro Research, June 12, 2017, http:// www.techproresearch.com/article/how-artificial-intelligence-is-taking-call-centers-to-the-next-level/.

232

Обзор проблем, вызванных технообразованием, см. в: Audrey Watters, “The 100 Worst Ed-Tech Debacles of the Decade,” Hacked Education (blog), http://hackeducation.com/2019/12/31/what-a-shitshow.

233

Scott R. Peppet, “Unraveling Privacy: The Personal Prospectus and the Threat of a Full-Disclosure Future,” northwestern University Law Review 105 (2011): 1153, 1201.

234

Lisa Feldman Barrett, Ralph Adolphs, Stacy Marsella, Aleix M. Martinez, and Seth D. Pollak, “Emotional Expressions Reconsidered: Challenges to Inferring Emotion from Human Facial Movements,” Psychological Science in the Public Interest 20, no. 1 (2019), https://journals.sagepub.com/stoken/default4-domain/io. 1177 % 2F1529ioo61983293O-FREE/pdf.

235

Kate Crawford, Roel Dobbe, Theodora Dryer, Genevieve Fried, Ben Green, Elizabeth Kaziunas, Amba Kak, et al., Al Now 201g Report (New York: Al Now Institute, 2019), https://ainowinstitute.org/AI_ Now_2019_Report.html.

236

Ben Williamson, Sian Bayne, and Suellen Shayet, “The datafication of teaching in Higher Education: critical issues and perspectives,” Teaching in Higher Education 25, no. 4 (2020): 351–365.

237

Ханна Арендт, Между прошлым и будущим (Москва: Издательство Института Гайдара, 2014), 276: «Ответственность за становление ребенка – это в известном смысле ответственность против мира: ребенок нуждается в особом присмотре и уходе, чтобы

238

Seymour Papert, Mindstorms: Children, Computers and Powerful Ideas, 2nd ed. (New York: Basic Books, 1993), 5.

239

Кэти О’Нил, Убийственные большие данные: как математика превратилась в оружие массового поражения (Москва: ACT, 2018), 22.

240

Jacqueline M. Kory, Sooyeon Jeong, and Cynthia Breazeal, “Robotic Learning Companions for Early Language Development,” Proceedings of the 15th ACM on International Conference on Multimodal Interaction (2013), 71–72, https://dam-prod.media.mit.edu/x/files/wp-con-tent/uploads/sites/14/2015/oi/Ko ryJeongBrezeal-ICMI-13.pdf.

241

Jacqueline M. Kory and Cynthia Breazeal, “Storytelling with Robots: Learning Companion for Preschool Children’s Language Development,” Robot and Human Interactive Communication RO-MAN, The 23rd IEEE International Symposium on IEEE (2014), http://www.jakory.com/ static/papers/kory-storybot-roman-vi-revisionA.pdf.

242

Deanna Hood, Severin Lemaignan, and Pierre Dillenbourg, “When Children Teach a Robot to