وأخيرًا – التطور: تفتح الاختراقات بمساعدة الذكاء الاصطناعي الباب أمام استراتيجيات معقدة تتجاوز تلك التي يمكن أن يصممها العقل البشري المجرد. يمكن للتحليلات الإحصائية المعقدة للذكاء الاصطناعي أن تكشف عن العلاقات بين المتغيرات ، وبالتالي المآثر المحتملة ، التي ربما لم يتعرف عليها أفضل الاستراتيجيين والخبراء. قد يسمح هذا التطور للذكاء الاصطناعي بنشر استراتيجيات تخرب مستويات متعددة من النظام المستهدف. على سبيل المثال ، قد يحدد الذكاء الاصطناعي المصمم لزيادة حصة تصويت حزب سياسي مجموعة دقيقة من المتغيرات الاقتصادية ، ورسائل الحملة ، وتعديلات التصويت الإجرائية التي يمكن أن تحدث فرقًا بين الفوز الانتخابي والهزيمة ، مما يوسع الثورة التي جلبتها برامج الخرائط إلى التلاعب في الانتخابات. جميع جوانب الديمقراطية. وهذا لا يدخل حتى في الحيل التي يصعب اكتشافها التي يمكن أن يقترحها الذكاء الاصطناعي للتلاعب بسوق الأوراق المالية أو الأنظمة التشريعية أو الرأي العام.
في سرعة الكمبيوتر وحجمه ونطاقه وتطوره ، ستصبح القرصنة مشكلة لم يعد بإمكاننا كمجتمع إدارتها.
أتذكر مشهد في الفيلم المنهي، حيث يصف كايل ريس لسارة كونور السايبورغ الذي يطاردها: “لا يمكن المساومة عليه. لا يمكن أن يكون سببها. لا يشعر بالشفقة أو الندم أو الخوف. ولن يتوقف الأمر إطلاقا أبدا … ”نحن لا نتعامل معه حرفي قتلة سايبورغ ، ولكن نظرًا لأن الذكاء الاصطناعي أصبح خصمًا لنا في عالم القرصنة الاجتماعية ، فقد نجد صعوبة في مواكبة قدرته اللاإنسانية للبحث عن نقاط ضعفنا.
بعض الباحثين في مجال الذكاء الاصطناعي قلقون بشأن المدى الذي يمكن أن تتغلب فيه أنظمة الذكاء الاصطناعي القوية على القيود التي يفرضها الإنسان – وربما – للسيطرة على المجتمع. على الرغم من أن هذا قد يبدو وكأنه تكهنات جامحة ، إلا أنه سيناريو يستحق على الأقل تجاوز التفكير والوقاية.
اليوم وفي المستقبل القريب ، على الرغم من ذلك ، فإن القرصنة الموصوفة في هذا الكتاب سوف يرتكبها الأقوياء ضد بقيتنا. جميع أنظمة الذكاء الاصطناعي الموجودة هناك ، سواء كانت على الكمبيوتر المحمول أو عبر الإنترنت أو مجسدة في روبوت ، تمت برمجتها من قبل أشخاص آخرين ، وعادةً ما يكون ذلك في مصلحتهم وليس في مصلحتك. على الرغم من أن جهازًا متصلًا بالإنترنت مثل Alexa يمكنه محاكاة كونه صديقك الموثوق به ، فلا تنس أبدًا أنه مصمم لبيع منتجات Amazon. ومثلما يحثك موقع أمازون على شراء العلامات التجارية الخاصة به بدلاً من السلع عالية الجودة للمنافسين ، فإنه لن يعمل دائمًا في مصلحتك. سوف تخترق ثقتك في Amazon لتحقيق أهداف مساهميها.
في غياب أي تنظيم ذي مغزى ، لا يوجد حقًا أي شيء يمكننا القيام به لمنع انتشار قرصنة الذكاء الاصطناعي. نحن بحاجة إلى قبول أنه أمر لا مفر منه ، وبناء هياكل حكم قوية يمكنها الاستجابة بسرعة وفعالية من خلال تطبيع الاختراقات المفيدة في النظام وتحييد تلك الضارة أو الضارة عن غير قصد.
يثير هذا التحدي أسئلة أعمق وأصعب من كيفية تطور الذكاء الاصطناعي أو كيف يمكن للمؤسسات الاستجابة له: ما الاختراقات التي تعتبر مفيدة؟ أيهما ضار؟ ومن الذي يقرر؟ إذا كنت تعتقد أن الحكومة يجب أن تكون صغيرة بما يكفي لتغرق في حوض الاستحمام ، فمن المحتمل أنك تعتقد أن الاختراقات التي تقلل من قدرة الحكومة على السيطرة على مواطنيها عادة ما تكون جيدة. لكنك ما زلت لا ترغب في استبدال القادة التكنولوجيين بالسياسيين. إذا كنت تؤمن بالمبدأ الوقائي ، فأنت تريد أكبر عدد ممكن من الخبراء اختبار الاختراق والحكم عليهم قبل دمجهم في أنظمتنا الاجتماعية. وقد ترغب في تطبيق هذا المبدأ بشكل أكبر على المؤسسات والهياكل التي تجعل تلك الاختراقات ممكنة.
الأسئلة تستمر. هل يجب أن تُحكم الاختراقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي محليًا أو عالميًا؟ من قبل المسؤولين أو عن طريق الاستفتاء؟ أم أن هناك طريقة ما يمكننا من خلالها السماح للسوق أو جماعات المجتمع المدني باتخاذ القرار؟ (تُعد الجهود الحالية لتطبيق نماذج الحوكمة على الخوارزميات مؤشرًا مبكرًا على كيفية حدوث ذلك). ستمنح الهياكل الحاكمة التي نصممها بعض الأشخاص والمؤسسات سلطة تحديد الاختراقات التي ستشكل المستقبل. سنحتاج إلى التأكد من أن السلطة تُمارس بحكمة.
مقتبس من عقل القراصنة: كيف تنحني قواعد المجتمع القوية ، وكيفية ثنيها للخلف بواسطة بروس شناير. حقوق النشر © 2023 بواسطة Bruce Schneier. مستخدمة بإذن من الناشر ، WW Norton & Company، Inc. جميع الحقوق محفوظة.
