الأخبار التي تفيد بأن Siri تسجل مقتطفات من محادثاتنا مع المساعد الصوتي ليست جديدة ، لكنها تدعي أن تلك التسجيلات القصيرة يتم الاستماع إليها من قبل الوكلاء البشريين – لا سيما في ضوء الدفع الكبير للشركة للخصوصية.
هذه بصريات سيئة لشركة آبل
أنا من أشد المؤمنين بأهمية الخصوصية.
إنها ليست مهمة فقط من حيث الحفاظ على الحريات التي تم الحصول عليها بشق الأنفس وحماية الخطاب العام ؛ إنها أيضًا ذات أهمية متزايدة عبر كل جزء من الوجود البشري – لكل مدرسة أو منشأة طبية أو مؤسسة. يُظهر التاريخ أن غياب الخصوصية له تأثير مدمر على المجتمع ، ويقلب أفراد الأسرة ضد بعضهم البعض ويثبط الابتكار.
تحذيرات Apple بشأن الخصوصية – بما في ذلك تحذير الرئيس التنفيذي لشركة Apple ، Tim Cook من أن العديد من شركات التكنولوجيا التي نعمل معها يوميًا تدفع بنا إلى حالة مراقبة – مهمة (إن لم تكن ملائمة دائمًا لأولئك الذين يجادلون بأن الخصوصية هي مجرد شيء يجب أن نضحي به من أجل جيدة من الروبوتات التي نصنعها).
ومع ذلك ، فإن الكشف عن أن Apple لم توضح أن تسجيلات محادثاتنا الخاصة تتم مشاركتها مع “مقاولين” لأغراض “مراقبة الجودة” و “التدريب” هو مظهر سيء حقًا للشركة.
ما تقوله شركة آبل
تقول شركة آبل:
“يتم تحليل جزء صغير من طلبات Siri لتحسين Siri والإملاء.” كما يعد بأن “طلبات المستخدم غير مرتبطة بمعرف Apple الخاص بالمستخدمين. يتم تحليل ردود Siri في منشآت آمنة ويلتزم جميع المراجعين بالالتزام بمتطلبات السرية الصارمة لشركة Apple “.
هذا مطمئن إلى حد ما ، ولكن بالنظر إلى أنه في بعض الحالات ، ورد أن مراجعي Apple قد سمعوا أشخاصًا يشاركون معلومات شخصية ، بما في ذلك عنوانهم ، فإن الانتقال إلى فصل الصوت المسجل من معرف Apple ذي الصلة قد لا يكون كافياً.
أبل سوف تحتاج إلى فعل المزيد.
كيف يمكن لأبل معالجة الموقف
ابدأ بالشفافية
ستجد مخفيًا في شروط وأحكام Apple تحذيرات بأن التسجيلات التي يتم إجراؤها باستخدام Siri تُستخدم أحيانًا لأغراض مراقبة الجودة.
ستجد أيضًا وعدًا بأن هذه التسجيلات (على عكس المنافسين) غير مرتبطة بأي شكل من الأشكال بمعرف Apple أو الهوية الشخصية.
هذه الوعود ليست واضحة للغاية.
لهذا السبب أقول إن على Apple تقديم تحذيرات الخصوصية بشكل أوضح وأسهل في الفهم حول استخدام Siri على أجهزتها. يحتاج إلى تحريك هذه التحذيرات إلى الأمام والوسط وجعله واضحًا تمامًا أنه لا يستخدم هذه التسجيلات في بعض الأحيان فحسب ، بل أيضًا كيفية استخدامه ، وكيف يحمي الهوية عند استخدامها ، ومدة الاحتفاظ بهذه التسجيلات بالضبط.
لكن امنح الناس السيطرة
يجب على Apple (على ما أظن) جعل Siri يسجل إلغاء الاشتراك.
وهذا يعني أنه عند إعداد Siri على جهاز جديد ، يجب منح المستخدم الفرصة لرفض استخدام صوته صراحة لأي غرض بخلاف الطلب الأصلي.
يجب أن تكون قادرًا على القول أنك لا تريد استخدام بياناتك في التدريب أو مراقبة الجودة.
قد يشتكي البعض “ولكن بعد ذلك لن تتمكن شركة Apple من تدريب المساعد بهذه السرعة”. ربما لا ، لكنها ستحافظ على الريادة في حماية الخصوصية.
ليس ذلك فحسب ، بل يمكن الجدال حول مدى فائدة هذه التسجيلات في الواقع.
كن أكثر عرضة للمساءلة
من هم “المتعاقدون” Apple و Google و Amazon وجميع الآخرين الذين يستخدمون التحقق والاستماع إلى هذه التسجيلات القصيرة لما نقوله؟
كيف يتم توظيفهم؟
ما هي توصيفاتهم الوظيفية؟ لمن يعملون أيضا؟
على أي أساس يمكن الوثوق بهم وكيف يمكن للأفراد الحصول على تعويض في حالة إساءة استخدام هذه الثقة؟
ولماذا لا يعرف مستخدمو Siri بالفعل إجابات كل هذه الأسئلة؟
لا معنى للاستعانة بمصادر خارجية لهؤلاء المقاولين.
يجب على Apple جلب هذا العمل داخليًا ، وأن تصبح مسؤولة تمامًا عما يفعله موظفو الصوت والإدارة بهذه التسجيلات ، وأن تضمن للعملاء طريقة ما لمعاقبة أي انتهاك لخصوصية بياناتهم.
تأكد حقًا أنك بحاجة إلى المعلومات
تقول Apple إنها تسجل وتستخدم فقط أقسامًا صغيرة من الكلمات التي تسمعها ، ولكن هل تحتاج حتى إلى الاحتفاظ أو التحقق من العدد الذي تختاره لأخذها؟
فكر بها بهذه الطريقة:
إذا سمع Siri على ساعتك أو HomePod ما يعتقد أنه أمر “Hey، Siri” ، ولكن لم يتم تقديم أي طلب في وقت لاحق ، فمن المؤكد أنه يجب أن يكون ذكيًا بما يكفي للتعرف على حدوث إنذار خاطئ.
في حالة حدوث مثل هذا الإنذار الخاطئ ، يجب أن يكون Siri على الجهاز بالتأكيد ذكيًا بما يكفي لمعرفة سبب الاستدعاء العرضي وأن يكون أقل حساسية لهذا الصوت في المستقبل.
(أ وصي زعم التقرير أن صوت الكود البريدية يوقظ في بعض الأحيان Siri ، على سبيل المثال – بالتأكيد يمكن أن يتعلم Siri تجاهل صوت الكود البريدية في الاستجابة.)
خلاصة القول هي أنه في حالة استدعاء Siri ولكن لم يتم تقديم طلب محدد ، يجب أن يكون النظام ذكيًا بما يكفي لتجاهل التفاعل وحذف أي تسجيل تم إجراؤه نتيجة لذلك التفاعل ، بعد (ربما) الثواني الثلاث الأولى التي اعتقدت أنها سمعت أمر الزناد.
مجرد اتخاذ هذه الخطوة من شأنه أن يمنع إلى حد كبير بعض التسجيلات الفظيعة التي يقال إن Siri سمعها وشاركها مع المقاولين.
لا أريد أن يتحسن Siri في الاستماع إلى ما أقوله عندما لا أرغب في الاستماع إليه. أريد فقط أن يتحسن الاستماع عند تقديم طلب.
هل البشر ضروريون؟
تتقدم تقنية الصوت بسرعة. هذا يطرح السؤال: “هل من الضروري حتى للمتعاقدين البشريين الاستماع إلى مقتطفات المحادثة المتعلقة بـ Siri على الإطلاق؟”
أعتقد أنه في كثير من الحالات ، الأمر ليس كذلك.
يجب وضع التسجيلات من خلال Siri وتقنيات التعرف على الصوت الأخرى في المقام الأول لأتمتة التحقق من الدقة.
فقط في الحالات التي لا تستطيع فيها أنظمة التعرف على الصوت المختلفة إيجاد طريقة للاتفاق على ما يقال إذا كانت آذان الإنسان ضرورية.
أنا لست خبيرًا في الذكاء الاصطناعي ، لكن هذا النوع من التحليل هو نوع من الأشياء التي تم تصميم نماذج / خوارزميات الغابة العشوائية من أجلها – فقط عندما لا تستطيع التكنولوجيا الاتفاق على سبب خطأ طلب ما إذا كان الإنسان ضروريًا على الإطلاق.
لماذا يهم
هذه مجرد مجموعة صغيرة من الاقتراحات التي آمل أن تتخذها Apple لجعل Siri هو المساعد الصوتي الأكثر خصوصية في الصناعة.
هذه الأشياء مهمة.
فكر في الأمر:
لا يقتصر الأمر على الكلمات التي نستخدمها ممتلكاتنا الخاصة ، ولكن مع دخول التقنيات المستندة إلى أجهزة الاستشعار والذكاء الاصطناعي مجالات مختلفة من الحياة اليومية – من رسم الخرائط إلى الواقع الافتراضي في كل مكان – تصبح الحاجة إلى الخصوصية أكثر أهمية ، حيث سيصبح الكثير من حياتنا كتاب مفتوح.
ستحدد القرارات التي نتخذها بشأن الصوت اليوم كل مجالات الخصوصية الأخرى.
يعتقد البعض أن الخصوصية ثمن يجب أن ندفعه مقابل الراحة الحاسوبية ، لكنني لم أتفق معهم أبدًا.
نحن نقف عند نقطة في تاريخ البشرية حيث سيكون للقرارات التي نتخذها بشأن خصوصية المساعد الصوتي صدى في مستقبلنا.
نحتاج إلى فرز هذا بطريقة فعالة لأنه ما لم نفعل ذلك ، فستكون عمليات التنفيذ غير آمنة ومن المحتمل أن تكون غير سليمة أخلاقياً.
ويجب على شركة آبل المضي قدمًا في مطالبتها بإصدار قانون رقمي للحقوق في هذا المجال ، وهو قانون يضع المستخدمين في مركز التحكم في الخصوصية.