الأخبار التي تفيد بأن Siri تسجل مقتطفات من محادثاتنا مع المساعد الصوتي ليست جديدة ، لكنها تدعي أن تلك التسجيلات القصيرة يتم الاستماع إليها من قبل الوكلاء البشريين – لا سيما في ضوء الدفع الكبير للشركة للخصوصية.
هذه بصريات سيئة لشركة آبل
أنا من أشد المؤمنين بأهمية الخصوصية.
إنها ليست مهمة فقط من حيث الحفاظ على الحريات التي تم الحصول عليها بشق الأنفس وحماية الخطاب العام ؛ إنها أيضًا ذات أهمية متزايدة عبر كل جزء من الوجود البشري – لكل مدرسة أو منشأة طبية أو مؤسسة. يُظهر التاريخ أن غياب الخصوصية له تأثير مدمر على المجتمع ، ويقلب أفراد الأسرة ضد بعضهم البعض ويثبط الابتكار.
تحذيرات Apple بشأن الخصوصية – بما في ذلك تحذير الرئيس التنفيذي لشركة Apple ، Tim Cook من أن العديد من شركات التكنولوجيا التي نعمل معها يوميًا تدفع بنا إلى حالة مراقبة – مهمة (إن لم تكن ملائمة دائمًا لأولئك الذين يجادلون بأن الخصوصية هي مجرد شيء يجب أن نضحي به من أجل جيد من الروبوتات التي نصنعها).
ومع ذلك ، فإن الكشف عن أن Apple لم توضح أن تسجيلات محادثاتنا الخاصة تتم مشاركتها مع “مقاولين” لأغراض “مراقبة الجودة” و “التدريب” هو مظهر سيء حقًا للشركة.
ما تقوله شركة آبل
صرحت شركة Apple بما يلي:
“يتم تحليل جزء صغير من طلبات Siri لتحسين Siri والإملاء.” كما يعد بأن “طلبات المستخدم غير مرتبطة بمعرف Apple الخاص بالمستخدمين. يتم تحليل ردود Siri في منشآت آمنة ويلتزم جميع المراجعين بالالتزام بمتطلبات السرية الصارمة لشركة Apple “.
هذا مطمئن إلى حد ما ، ولكن بالنظر إلى أنه في بعض الحالات ، ورد أن مراجعي Apple قد سمعوا أشخاصًا يشاركون معلومات شخصية ، بما في ذلك عنوانهم ، فإن الانتقال إلى فصل الصوت المسجل من معرف Apple ذي الصلة قد لا يكون كافيًا.
سوف تحتاج Apple إلى فعل المزيد.
كيف يمكن لأبل معالجة الموقف
ابدأ بالشفافية
ستجد تحذيرات مخفية في شروط وأحكام Apple من أن التسجيلات التي يتم إجراؤها باستخدام Siri تُستخدم أحيانًا لأغراض مراقبة الجودة.
ستجد أيضًا وعدًا بأن هذه التسجيلات (على عكس المنافسين) غير مرتبطة بأي شكل من الأشكال بمعرف Apple أو الهوية الشخصية.
هذه الوعود ليست واضحة للغاية.
لهذا السبب أقول إن على Apple تقديم تحذيرات الخصوصية بشكل أوضح وأسهل في الفهم حول استخدام Siri على أجهزتها. يحتاج إلى تحريك هذه التحذيرات إلى الأمام والوسط وجعله واضحًا تمامًا أنه لا يستخدم هذه التسجيلات في بعض الأحيان فحسب ، بل أيضًا كيفية استخدامه ، وكيف يحمي الهوية عند استخدامها ، ومدة الاحتفاظ بهذه التسجيلات بالضبط.
لكن امنح الناس السيطرة
يجب على Apple (على ما أظن) جعل Siri يسجل إلغاء الاشتراك.
وهذا يعني أنه عند إعداد Siri على جهاز جديد ، يجب منح المستخدم الفرصة لرفض استخدام صوته صراحة لأي غرض بخلاف الطلب الأصلي.
يجب أن تكون قادرًا على القول أنك لا تريد استخدام بياناتك في التدريب أو مراقبة الجودة.
قد يشتكي البعض “ولكن بعد ذلك لن تتمكن Apple من تدريب المساعد بهذه السرعة”. ربما لا ، لكنها ستحافظ على الريادة في حماية الخصوصية.
ليس ذلك فحسب ، بل يمكن الجدال حول مدى فائدة هذه التسجيلات في الواقع.
كن أكثر عرضة للمساءلة
من هم “متعاقدو” Apple و Google و Amazon وجميع الآخرين الذين يستخدمون التحقق والاستماع إلى هذه التسجيلات القصيرة لما نقوله؟
كيف يتم توظيفهم؟
ما هي توصيفاتهم الوظيفية؟ لمن يعملون أيضا؟
على أي أساس يمكن الوثوق بهم وكيف يمكن للأفراد الحصول على تعويض في حالة إساءة استخدام هذه الثقة؟
ولماذا لا يعرف مستخدمو Siri بالفعل إجابات كل هذه الأسئلة؟
إن الاستعانة بمصادر خارجية لهؤلاء المقاولين لا معنى له.
يجب على Apple جلب هذا العمل داخليًا ، وأن تصبح مسؤولة تمامًا عما يفعله موظفو الصوت والإدارة بهذه التسجيلات ، وتضمن أن يكون لدى العملاء طريقة ما لمعاقبة أي انتهاك لخصوصية بياناتهم.
تأكد حقًا أنك بحاجة إلى المعلومات
تقول Apple إنها تسجل وتستخدم فقط أقسامًا صغيرة من الكلمات التي تسمعها ، ولكن هل تحتاج حتى إلى الاحتفاظ أو التحقق من أكبر عدد ممكن من العينات التي تختار أخذها؟
فكر بها بهذه الطريقة:
إذا سمع Siri على ساعتك أو HomePod ما يعتقد أنه أمر “Hey، Siri” ، ولكن لم يتم تقديم أي طلب لاحقًا ، فمن المؤكد أنه يجب أن يكون ذكيًا بما يكفي للتعرف على الإنذار الخاطئ الذي حدث.
في حالة حدوث مثل هذا الإنذار الخاطئ ، يجب أن يكون Siri على الجهاز بالتأكيد ذكيًا بما يكفي لمعرفة سبب الاستدعاء العرضي وأن يكون أقل حساسية لهذا الصوت في المستقبل.
(أ وصي زعم التقرير أن صوت الكود البريدية يوقظ في بعض الأحيان Siri ، على سبيل المثال – بالتأكيد يمكن أن يتعلم Siri تجاهل صوت الكود البريدية في الاستجابة.)
خلاصة القول هي أنه في حالة استدعاء Siri ولكن لم يتم تقديم طلب محدد ، يجب أن يكون النظام ذكيًا بما يكفي لتجاهل التفاعل وحذف أي تسجيل تم إجراؤه نتيجة لذلك التفاعل ، بما يتجاوز (ربما) الثواني الثلاث الأولى التي اعتقدت أنها سمعت أمر الزناد.
مجرد اتخاذ هذه الخطوة من شأنه أن يمنع إلى حد كبير بعض التسجيلات الأكثر فظاعة التي يقال إن Siri سمعها وشاركها مع المقاولين.
لا أريد أن يتحسن Siri في الاستماع إلى ما أقوله عندما لا أرغب في الاستماع إليه. أريد فقط أن يتحسن الاستماع عندما أقدم طلبًا.
هل البشر ضروريون؟
تتقدم تقنية الصوت بسرعة. هذا يطرح السؤال: “هل من الضروري حتى للمقاولين البشريين الاستماع إلى مقتطفات المحادثة المتعلقة بـ Siri على الإطلاق؟”
أعتقد أنه في كثير من الحالات ، الأمر ببساطة ليس كذلك.
يجب وضع التسجيلات من خلال Siri وتقنيات التعرف على الصوت الأخرى في المقام الأول لأتمتة التحقق من الدقة.
فقط في تلك الحالات التي لا تستطيع فيها أنظمة التعرف على الصوت المختلفة إيجاد طريقة للاتفاق على ما يقال إذا كانت آذان الإنسان ضرورية.
أنا لست خبيرًا في الذكاء الاصطناعي ، لكن هذا النوع من التحليل هو نوع الشيء الذي تم تصميم نماذج / خوارزميات الغابة العشوائية من أجله – فقط عندما لا تستطيع التكنولوجيا الاتفاق على سبب خطأ طلب ما إذا كان الإنسان ضروريًا على الإطلاق.
لماذا يهم
هذه مجرد مجموعة صغيرة من الاقتراحات التي آمل أن تتخذها Apple لجعل Siri هو المساعد الصوتي الأكثر خصوصية في الصناعة.
هذه الأشياء مهمة.
فكر في الأمر:
لا يقتصر الأمر على الكلمات التي نستخدمها ممتلكاتنا الخاصة ، ولكن مع دخول التقنيات المستندة إلى أجهزة الاستشعار والذكاء الاصطناعي مجالات مختلفة من الحياة اليومية – من رسم الخرائط إلى الواقع الافتراضي في كل مكان – تصبح الحاجة إلى الخصوصية أكثر أهمية ، حيث سيصبح الكثير من حياتنا كتاب مفتوح.
ستحدد القرارات التي نتخذها بشأن الصوت اليوم كل مجالات الخصوصية الأخرى.
يعتقد البعض أن الخصوصية ثمن يجب أن ندفعه مقابل الراحة الحاسوبية ، لكنني لم أتفق معهم مطلقًا.
نحن نقف عند نقطة في تاريخ البشرية حيث سيكون للقرارات التي نتخذها بشأن خصوصية المساعد الصوتي صدى في مستقبلنا.
نحتاج إلى فرز هذا بطريقة فعالة لأنه ما لم نفعل ذلك ، فستكون عمليات التنفيذ غير آمنة ومن المحتمل أن تكون غير سليمة من الناحية الأخلاقية.
ويجب على شركة Apple المضي قدمًا في مطالبتها بإصدار قانون رقمي للحقوق في هذا المجال ، وهو قانون يضع المستخدمين في مركز التحكم في الخصوصية.
