الراصد الإخباري
08-12-2023, 02:20 PM
<p ><span ><span >هناك قلق عالمي قوي يتزايد يومًا تلو الآخر حول تسارع وتيرة تطوّر الذكاء الاصطناعي التوليدي، القادر على إنتاج النصوص والأصوات والصور في بضع ثوان.</span></span></p>
<p ></p>
<p dir="RTL" ><span ><span >وتثير إمكانات تلك التقنية المذهلة آمالا وأحلامًا هائلة، فهي يمكن أن تُحدث طفرة في العديد من المجالات، ومنها الطب والتعليم والبيئة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >بيْد أن تطورها غير المقيد يمكن أن يكون له تبعيات ومخاطر جسيمة على البشر، مثل الهجمات الشرسة على الخصوصية أو حملات التضليل أو حتى دعاوى انتهاك حقوق الطبع والنشر.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >فيما يلي سنتعمّق في الأمر قليلًا ونتعرف على أهم 9 مشكلات متعلقة بالذكاء الاصطناعي التوليدي.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><img src="https://argaamplus.s3.amazonaws.com/481ddd32-789c-4476-9250-23ec5b5e09b6.png" ><br>
</p>
<table align="center" border="1" cellpadding="0" cellspacing="0" dir="rtl" width="711">
<tbody>
<tr >
<td colspan="3" >
<p dir="RTL" ><span ><span ><strong><span >9 </span></strong><strong><span >مخاوف تتعلق بالذكاء الاصطناعي التوليدي</span></strong></span></span></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>المشكلة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الموضوع</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الشرح</strong></span></span></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>التحيزات</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>مراقبة معايير الجودة والدقة</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >تكمن إحدى القضايا الحاسمة التي تتعلق بالذكاء الاصطناعي التوليدي في ميله إلى إعادة إنتاج التحيزات الموجودة في البيانات التي تم تدريبه عليها.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >بدلاً من تخفيف تلك التحيزات، غالبًا ما تضخمها هذه الأدوات أو تديمها، مما يثير تساؤلات حول دقة تطبيقاتها، الأمر الذي قد يؤدي بالتبعية إلى مشاكل أكبر بكثير تتعلق بالأخلاق.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>الصندوق الأسود وعدم قابلية التوضيح</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الموضوع</strong>: <strong>الاعتبارات الأخلاقية والقانونية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >هناك عقبة كبيرة أخرى في تبني الذكاء الاصطناعي التوليدي وهي الافتقار إلى الشفافية في عمليات صنع القرار.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >حيث تواجه أنظمة الذكاء الاصطناعي تحديات في شرح قراراتها، خاصة عندما تحدث أخطاء في الأمور الحرجة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لنفترض مثلًا أن محكمة ما قررت استخدام نظام ذكي للحكم على المتهمين، ولكن عند الحكم أراد المتهم معرفة لماذا توصل النظام لهذا الحكم.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >هنا لن يستطيع الوصول إلى تفسير أو حيثيات تبرر هذا الحكم لأن النظام بنى حكمه على خوارزميات التعلم العميق.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >ولو كان هذا الشخص المُدان من أصحاب البشرة السمراء ستكون احتمالية إدانته كبيرة جدًا نظرًا لتحيز البيانات ضدهم.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >تجدر الإشارة إلى أن هذه المشكلة تحدث مع أنظمة الذكاء الاصطناعي وليس فقط الأدوات التوليدية.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>ارتفاع تكلفة التدريب والصيانة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>التعقيدات والتحديات الفنية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لا يخفى على أحد أن تدريب نماذج الذكاء الاصطناعي التوليدية مثل نماذج اللغة الكبيرة (<span dir="LTR">LLM</span>) لشات جي بي تي مكلف للغاية، وغالبًا ما تصل التكاليف إلى ملايين الدولارات بسبب القوة الحسابية والبنية التحتية المطلوبة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على سبيل المثال، أكد الرئيس التنفيذي السابق لشركة أوبن إيه آي، سام ألتمان، أن شات جي بي تي-4 كلف تدريبه 100 مليون دولار.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>التقليد الأعمى كالببغاء</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>مراقبة معايير الجودة والدقة</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على الرغم من قدراتها المتقدمة، فإن الذكاء الاصطناعي التوليدي مقيد بالبيانات والأنماط التي تم تدريبها عليها. ينتج عن هذا القيد مخرجات قد لا تشمل اتساع المعرفة الإنسانية أو تعالج سيناريوهات متنوعة.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>التوافق مع القيم الإنسانية</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الاعتبارات الأخلاقية والقانونية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على عكس البشر، يفتقر الذكاء الاصطناعي التوليدي إلى القدرة على النظر في عواقب أفعاله بما يتماشى مع القيم الإنسانية.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >رغم أن حالات مثل نشر صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لبابا الفاتيكان يرتدي أزياء دار بالنسياغا الفرنسية الشهيرة (<span dir="LTR">Balenciaga Pope</span>) قد تبدو غير ضارة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >فمن المهم إدراك أنه يمكن استخدام التزييف لأغراض أكثر ضررًا، مثل نشر معلومات كاذبة في مواجهة أزمات الصحة العامة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >وهذا يسلط الضوء على الحاجة إلى المزيد من الأطر التنظيمية التي تضمن عمل هذه الأنظمة ضمن الحدود والقيم الأخلاقية.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>استهلاك كبير للطاقة </strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>التعقيدات والتحديات الفنية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لا يمكن التغاضي عن التأثير البيئي للذكاء الاصطناعي التوليدي. نظرًا لأن وحدات المعالجة تستهلك طاقة كبيرة، فإن نماذج مثل شات جي بي تي تكلف ما يصل إلى 33.000 أسرة أمريكية.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>الهلوسة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>مراقبة معايير الجودة والدقة</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >من المعروف أن نماذج الذكاء الاصطناعي التوليدية تنشئ بيانات أو صورًا ملفقة عند مواجهة فجوات في البيانات، مما يثير مخاوف بشأن موثوقية مخرجاتها وعواقبها المحتملة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على سبيل المثال، في مقطع فيديو ترويجي على جوجل بارد (<span dir="LTR">Bard</span>)، أكد روبوت الدردشة بشكل غير صحيح أن تلسكوب جيمس ويب الفضائي التقط الصور الأولى لكوكب خارج النظام الشمسي للأرض.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>حقوق الطبع والنشر وانتهاك الملكية الفكرية</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الاعتبارات الأخلاقية والقانونية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لا شكّ أن الاستخدام الأخلاقي للبيانات أصبح أمرًا بالغ الأهمية عند النظر في أن العديد من أدوات الذكاء الاصطناعي التوليدية تستخدم العمل المحمي بحقوق الطبع والنشر دون موافقة أو تعويض، مما ينتهك حقوق الفنانين والمبدعين.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >قدمت شركة أوبن إيه آي مؤخرًا برنامج تعويضات يسمى (<span dir="LTR">Copyright Shield</span>) لتغطية التكاليف القانونية لدعاوى انتهاك حقوق الطبع والنشر لبعض فئات العملاء، بدلاً من إزالة المواد المحمية بحقوق الطبع والنشر من مجموعة بيانات تدريب شات جي بي تي.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>معلومات ثابتة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>التعقيدات والتحديات الفنية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >يتطلب تحديث نماذج الذكاء الاصطناعي التوليدية موارد ووقتًا حاسوبيًا كبيرًا، مما يمثل تحديًا تقنيًا هائلاً. ومع ذلك، تم تصميم بعض النماذج للتحديثات الإضافية، مما يوفر حلاً محتملاً لهذه المشكلة المعقدة.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
</tbody>
</table>
<div ></div>
<div >
<p ><span ><span ><strong><span >المصدر: فيجوال كابيتاليست</span></strong></span></span></p>
</div>
المصدر... (https://www.argaam.com/ar/article/articledetail/id/1689300)
<p ></p>
<p dir="RTL" ><span ><span >وتثير إمكانات تلك التقنية المذهلة آمالا وأحلامًا هائلة، فهي يمكن أن تُحدث طفرة في العديد من المجالات، ومنها الطب والتعليم والبيئة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >بيْد أن تطورها غير المقيد يمكن أن يكون له تبعيات ومخاطر جسيمة على البشر، مثل الهجمات الشرسة على الخصوصية أو حملات التضليل أو حتى دعاوى انتهاك حقوق الطبع والنشر.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >فيما يلي سنتعمّق في الأمر قليلًا ونتعرف على أهم 9 مشكلات متعلقة بالذكاء الاصطناعي التوليدي.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><img src="https://argaamplus.s3.amazonaws.com/481ddd32-789c-4476-9250-23ec5b5e09b6.png" ><br>
</p>
<table align="center" border="1" cellpadding="0" cellspacing="0" dir="rtl" width="711">
<tbody>
<tr >
<td colspan="3" >
<p dir="RTL" ><span ><span ><strong><span >9 </span></strong><strong><span >مخاوف تتعلق بالذكاء الاصطناعي التوليدي</span></strong></span></span></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>المشكلة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الموضوع</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الشرح</strong></span></span></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>التحيزات</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>مراقبة معايير الجودة والدقة</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >تكمن إحدى القضايا الحاسمة التي تتعلق بالذكاء الاصطناعي التوليدي في ميله إلى إعادة إنتاج التحيزات الموجودة في البيانات التي تم تدريبه عليها.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >بدلاً من تخفيف تلك التحيزات، غالبًا ما تضخمها هذه الأدوات أو تديمها، مما يثير تساؤلات حول دقة تطبيقاتها، الأمر الذي قد يؤدي بالتبعية إلى مشاكل أكبر بكثير تتعلق بالأخلاق.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>الصندوق الأسود وعدم قابلية التوضيح</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الموضوع</strong>: <strong>الاعتبارات الأخلاقية والقانونية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >هناك عقبة كبيرة أخرى في تبني الذكاء الاصطناعي التوليدي وهي الافتقار إلى الشفافية في عمليات صنع القرار.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >حيث تواجه أنظمة الذكاء الاصطناعي تحديات في شرح قراراتها، خاصة عندما تحدث أخطاء في الأمور الحرجة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لنفترض مثلًا أن محكمة ما قررت استخدام نظام ذكي للحكم على المتهمين، ولكن عند الحكم أراد المتهم معرفة لماذا توصل النظام لهذا الحكم.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >هنا لن يستطيع الوصول إلى تفسير أو حيثيات تبرر هذا الحكم لأن النظام بنى حكمه على خوارزميات التعلم العميق.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >ولو كان هذا الشخص المُدان من أصحاب البشرة السمراء ستكون احتمالية إدانته كبيرة جدًا نظرًا لتحيز البيانات ضدهم.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >تجدر الإشارة إلى أن هذه المشكلة تحدث مع أنظمة الذكاء الاصطناعي وليس فقط الأدوات التوليدية.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>ارتفاع تكلفة التدريب والصيانة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>التعقيدات والتحديات الفنية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لا يخفى على أحد أن تدريب نماذج الذكاء الاصطناعي التوليدية مثل نماذج اللغة الكبيرة (<span dir="LTR">LLM</span>) لشات جي بي تي مكلف للغاية، وغالبًا ما تصل التكاليف إلى ملايين الدولارات بسبب القوة الحسابية والبنية التحتية المطلوبة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على سبيل المثال، أكد الرئيس التنفيذي السابق لشركة أوبن إيه آي، سام ألتمان، أن شات جي بي تي-4 كلف تدريبه 100 مليون دولار.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>التقليد الأعمى كالببغاء</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>مراقبة معايير الجودة والدقة</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على الرغم من قدراتها المتقدمة، فإن الذكاء الاصطناعي التوليدي مقيد بالبيانات والأنماط التي تم تدريبها عليها. ينتج عن هذا القيد مخرجات قد لا تشمل اتساع المعرفة الإنسانية أو تعالج سيناريوهات متنوعة.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>التوافق مع القيم الإنسانية</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الاعتبارات الأخلاقية والقانونية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على عكس البشر، يفتقر الذكاء الاصطناعي التوليدي إلى القدرة على النظر في عواقب أفعاله بما يتماشى مع القيم الإنسانية.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >رغم أن حالات مثل نشر صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لبابا الفاتيكان يرتدي أزياء دار بالنسياغا الفرنسية الشهيرة (<span dir="LTR">Balenciaga Pope</span>) قد تبدو غير ضارة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >فمن المهم إدراك أنه يمكن استخدام التزييف لأغراض أكثر ضررًا، مثل نشر معلومات كاذبة في مواجهة أزمات الصحة العامة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >وهذا يسلط الضوء على الحاجة إلى المزيد من الأطر التنظيمية التي تضمن عمل هذه الأنظمة ضمن الحدود والقيم الأخلاقية.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>استهلاك كبير للطاقة </strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>التعقيدات والتحديات الفنية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لا يمكن التغاضي عن التأثير البيئي للذكاء الاصطناعي التوليدي. نظرًا لأن وحدات المعالجة تستهلك طاقة كبيرة، فإن نماذج مثل شات جي بي تي تكلف ما يصل إلى 33.000 أسرة أمريكية.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>الهلوسة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>مراقبة معايير الجودة والدقة</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >من المعروف أن نماذج الذكاء الاصطناعي التوليدية تنشئ بيانات أو صورًا ملفقة عند مواجهة فجوات في البيانات، مما يثير مخاوف بشأن موثوقية مخرجاتها وعواقبها المحتملة.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >على سبيل المثال، في مقطع فيديو ترويجي على جوجل بارد (<span dir="LTR">Bard</span>)، أكد روبوت الدردشة بشكل غير صحيح أن تلسكوب جيمس ويب الفضائي التقط الصور الأولى لكوكب خارج النظام الشمسي للأرض.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>حقوق الطبع والنشر وانتهاك الملكية الفكرية</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>الاعتبارات الأخلاقية والقانونية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >لا شكّ أن الاستخدام الأخلاقي للبيانات أصبح أمرًا بالغ الأهمية عند النظر في أن العديد من أدوات الذكاء الاصطناعي التوليدية تستخدم العمل المحمي بحقوق الطبع والنشر دون موافقة أو تعويض، مما ينتهك حقوق الفنانين والمبدعين.</span></span></p>
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >قدمت شركة أوبن إيه آي مؤخرًا برنامج تعويضات يسمى (<span dir="LTR">Copyright Shield</span>) لتغطية التكاليف القانونية لدعاوى انتهاك حقوق الطبع والنشر لبعض فئات العملاء، بدلاً من إزالة المواد المحمية بحقوق الطبع والنشر من مجموعة بيانات تدريب شات جي بي تي.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
<tr >
<td >
<p dir="RTL" ><span ><span ><strong>معلومات ثابتة</strong></span></span></p>
</td>
<td >
<p align="center" dir="RTL" ><span ><span ><strong>التعقيدات والتحديات الفنية</strong></span></span></p>
</td>
<td >
<p dir="RTL" ></p>
<p dir="RTL" ><span ><span >يتطلب تحديث نماذج الذكاء الاصطناعي التوليدية موارد ووقتًا حاسوبيًا كبيرًا، مما يمثل تحديًا تقنيًا هائلاً. ومع ذلك، تم تصميم بعض النماذج للتحديثات الإضافية، مما يوفر حلاً محتملاً لهذه المشكلة المعقدة.</span></span></p>
<p dir="RTL" ></p>
</td>
</tr>
</tbody>
</table>
<div ></div>
<div >
<p ><span ><span ><strong><span >المصدر: فيجوال كابيتاليست</span></strong></span></span></p>
</div>
المصدر... (https://www.argaam.com/ar/article/articledetail/id/1689300)