ریسک‌ها چت‌جی‌پی‌تی، جایگزین‌ها و راهی به سوی هوش مصنوعی قابل اعتماد

استفاده مستقیم از چت‌بات‌ها توی شرکت‌ها ریسک‌ها و چالش‌هایی داره. در ادامه یاد می‌گیرید که چطور این ریسک‌ها رو کم کنید و یه هوش مصنوعی قابل اعتماد بسازید.

فرض کن داری برای دوستات یه اسموتی خوشمزه درست می‌کنی. میوه‌های مختلف و ماست رو با هم مخلوط کردی که دوستت، روچیر، با یه سیب رسیده از راه می‌رسه و اونو بهت می‌ده تا شاهکار خنک و جذابت رو کامل کنی. حالا که اسموتی کامله، موقع ریختن توی لیوان‌ها، هنوزم می‌تونی عطر سیب رو حس کنی. درست قبل از اینکه اولین جرعه رو بنوشی، روچیر می‌گه: «پشیمون شدم، باید برم و سیبم رو پس می‌خوام.» تو هم جواب می‌دی: «ببخشید رفیق، ولی این دیگه ممکن نیست.» یه کم دیگه به این داستان برمی‌گردیم تا توضیح بدیم چه ربطی به ChatGPT و هوش مصنوعی قابل اعتماد داره.

با پیشرفت دنیای هوش مصنوعی (AI)، ابزارهای جدیدی مثل ChatGPT از شرکت OpenAI به خاطر توانایی‌های گفتگومحورشون خیلی سر و صدا کردن. با این حال، من هم درک می‌کنم که قبل از اینکه بخوایم مستقیماً از این ابزار توی سازمان‌هامون استفاده کنیم، ارزیابی ریسک‌های ذاتی اون چقدر حیاتیه. توی این مقاله، می‌خوام ریسک‌ها و چالش‌های استفاده از ChatGPT در محیط کسب‌وکار رو بررسی کنم و بگم چرا باید با احتیاط سراغ پیاده‌سازیش بریم. علاوه بر این، روی اهمیت استفاده از watsonx شرکت IBM برای تضمین راه‌حل‌های هوش مصنوعی قابل اعتماد تاکید می‌کنم. و هر وقت شک کردید، پیشنهاد می‌کنم از همون عقل سلیمی استفاده کنید که همیشه موقع استفاده از سرویس‌های اینترنتی جدید به کار می‌بردید.

تکامل ابزارهای هوش مصنوعی

ChatGPT از قدرت عظیم مدل‌های GPT-3 و GPT-4 استفاده می‌کنه. این مدل‌ها به دسته جدیدی از مدل‌های زبانی بزرگ (LLM) تعلق دارن که بهشون «غول‌پیکر» می‌گن و به خاطر محبوبیت زیادشون، توی کاربردهای مختلف هوش مصنوعی استفاده می‌شن. با ChatGPT، کاربرا می‌تونن سوال بپرسن، متن تولید کنن، پیش‌نویس ایمیل بنویسن، در مورد کدهای زبان‌های برنامه‌نویسی مختلف بحث کنن، زبان طبیعی رو به کد تبدیل کنن و کلی کار دیگه انجام بدن. این ابزار به عنوان یه چت‌بات مکالمه‌ای باکیفیت شناخته می‌شه که تلاش می‌کنه پاسخ‌های منسجم و متناسب با متن گفتگو ارائه بده.

ChatGPT یه ابزار عالی برای نوشتن خلاقانه، ایده‌پردازی و تعامل با هوش مصنوعیه. استفاده از اون برای همه رایگانه، البته یه نسخه پیشرفته‌تر هم برای مشترکین ChatGPT Plus موجوده. قابلیت این چت‌بات در به خاطر سپردن مکالمات قبلی، تجربه تعاملی و جذاب‌تری رو برای کاربر می‌سازه.

با اینکه ChatGPT کلی توجه و محبوبیت به دست آورده، اما از طرف چت‌بات‌های مبتنی بر هوش مصنوعی و سیستم‌های پردازش زبان طبیعی (NLP) دیگه، با رقابت روبروئه. برای مثال، گوگل چت‌بات هوش مصنوعی خودش یعنی Bard رو توسعه داده که با موتور زبان اختصاصی خودش به اسم PaLM 2 کار می‌کنه. شرکت متا هم به تازگی مدل تاثیرگذار LLaMA2 رو منتشر کرده. همچنان که حوزه چت‌بات‌های هوش مصنوعی در حال پیشرفته، مطمئناً رقابت بیشتر می‌شه و بازیگرای جدیدی هم وارد میدون می‌شن. خیلی مهمه که از پیشرفت‌های این حوزه باخبر بمونیم تا بتونیم بهترین راه‌حل‌ها رو برای نیازهای کسب‌وکارمون پیدا کنیم.

چرا نباید مستقیماً از ChatGPT در شرکت استفاده کنیم؟

استفاده مستقیم از ChatGPT در محیط کسب‌وکار ریسک‌ها و چالش‌هایی به همراه داره. این موارد شامل امنیت و نشت داده، نگرانی‌های مربوط به محرمانگی و مسئولیت‌پذیری، پیچیدگی‌های مالکیت معنوی، تطابق با مجوزهای متن‌باز، محدودیت در توسعه هوش مصنوعی، و عدم قطعیت در مورد حریم خصوصی و تطابق با قوانین بین‌المللی می‌شه. در ادامه، این ریسک‌ها رو بررسی می‌کنم و با مثال‌هایی نشون می‌دم که چطور ممکنه توی فعالیت‌های روزمره شرکتتون باهاشون روبرو بشید.

اول با بررسی راه‌حل‌های جایگزین شروع می‌کنم که هدفشون کاهش ریسک‌های استفاده مستقیم از ChatGPT هست؛ از جمله IBM watsonx که من برای استفاده سازمانی پیشنهادش می‌کنم، چون از طریق نظارت و مدیریت دقیق، نگرانی‌های مربوط به مالکیت داده و حریم خصوصی رو برطرف می‌کنه. قول می‌دم آخر بحث دوباره به داستان اسموتی برگردیم، اما از اینجا به بعد هر وقت گفتم «داده‌های شما»، شما به جاش «سیب شما» رو تصور کنید.

قبل از بررسی راه‌حل‌های جایگزین، خیلی مهمه که شرکت‌ها از ریسک‌ها و چالش‌های بالقوه استفاده مستقیم از ChatGPT آگاه باشن. به عنوان یه یادآوری منطقی، تاریخچه اینترنت ظهور و تکامل سرویس‌های جدیدی (مثل جستجوی گوگل، شبکه‌های اجتماعی و غیره) رو به ما نشون داده که همگی روی اهمیت حریم خصوصی داده‌ها و مالکیت اون‌ها در محیط کسب‌وکار تاکید دارن. با در نظر گرفتن این موضوع، این‌ها فاکتورهای کلیدی‌ای هستن که باید بهشون توجه کنید:

امنیت و نشت داده

اگه اطلاعات حساس شخص ثالث یا اطلاعات داخلی شرکت وارد ChatGPT بشه، این اطلاعات بخشی از مدل داده چت‌بات می‌شه و ممکنه با کاربرای دیگه‌ای که سوالات مرتبطی می‌پرسن به اشتراک گذاشته بشه. این موضوع می‌تونه منجر به نشت داده بشه و سیاست‌های امنیتی سازمان شما رو نقض کنه.

مثال: برنامه‌های مربوط به محصول جدیدی که تیم شما داره به یه مشتری برای لانچ کردنش کمک می‌کنه، از جمله مشخصات محرمانه و استراتژی‌های بازاریابی، نباید با ChatGPT به اشتراک گذاشته بشه تا از ریسک نشت داده و نقض‌های امنیتی احتمالی جلوگیری بشه.

محرمانگی و حریم خصوصی

مشابه مورد قبلی، به اشتراک گذاشتن اطلاعات محرمانه مشتری یا شرکای تجاری ممکنه توافق‌نامه‌های قراردادی و الزامات قانونی برای حفاظت از این اطلاعات رو نقض کنه. اگه امنیت ChatGPT به خطر بیفته، محتوای محرمانه ممکنه فاش بشه و به اعتبار سازمان لطمه بزنه و اون رو در معرض مسئولیت‌های قانونی قرار بده.

مثال: فرض کنید یه سازمان بهداشتی از ChatGPT برای کمک به پاسخگویی به سوالات بیماران استفاده می‌کنه. اگه اطلاعات محرمانه بیمار، مثل سوابق پزشکی یا جزئیات سلامت شخصی، با ChatGPT به اشتراک گذاشته بشه، می‌تونه به طور بالقوه تعهدات قانونی و حقوق حریم خصوصی بیمار رو که توسط قوانینی مثل HIPAA (قانون قابلیت انتقال و پاسخگویی بیمه سلامت) در ایالات متحده محافظت می‌شه، نقض کنه.

نگرانی‌های مربوط به مالکیت معنوی

مالکیت کد یا متنی که ChatGPT تولید می‌کنه می‌تونه پیچیده باشه. توی شرایط استفاده از سرویس گفته شده که خروجی متعلق به ارائه‌دهنده ورودی هست، اما وقتی خروجی شامل داده‌های تحت حمایت قانونی باشه که از ورودی‌های دیگه گرفته شده، ممکنه مشکلاتی به وجود بیاد. اگه از ChatGPT برای تولید محتوای نوشتاری بر اساس دارایی‌های دارای حق کپی‌رایت استفاده بشه، نگرانی‌های مربوط به کپی‌رایت هم ممکنه به وجود بیاد.

مثال: شما برای اهداف بازاریابی محتوای نوشتاری تولید می‌کنید و خروجی شامل محتوای دارای کپی‌رایت از منابع خارجی، بدون ذکر منبع یا اجازه مناسبه. این کار می‌تونه به طور بالقوه حقوق مالکیت معنوی خالقان اصلی محتوا رو نقض کنه و برای شرکت عواقب قانونی و آسیب به اعتبارش رو به همراه داشته باشه.

تطابق با مجوزهای متن‌باز (Open Source)

اگه ChatGPT از کتابخونه‌های متن‌باز استفاده کنه و اون کد رو در محصولات شما بگنجونه، ممکنه مجوزهای نرم‌افزار متن‌باز (OSS) (مثل GPL) رو نقض کنه و برای سازمان شما مشکلات قانونی ایجاد کنه.

مثال: اگه شرکتی از ChatGPT برای تولید کد برای یه محصول نرم‌افزاری استفاده کنه و منبع داده‌های آموزشی GPT مشخص نباشه، این ریسک وجود داره که شرایط مجوزهای متن‌باز مرتبط با اون کد نقض بشه. این موضوع می‌تونه به عواقب قانونی، از جمله ادعای نقض مجوز و اقدامات قانونی احتمالی از طرف جامعه متن‌باز، منجر بشه.

محدودیت‌ها در توسعه هوش مصنوعی

توی شرایط استفاده از ChatGPT مشخص شده که نمی‌شه از اون برای توسعه سیستم‌های هوش مصنوعی دیگه استفاده کرد. اگه شرکت شما توی این حوزه فعالیت می‌کنه، استفاده از ChatGPT به این شکل ممکنه برنامه‌های توسعه هوش مصنوعی آینده شما رو مختل کنه.

مثال: شرکتی که در زمینه فناوری تشخیص صدا تخصص داره، قصد داره با ادغام قابلیت‌های پردازش زبان طبیعی ChatGPT، سیستم فعلی خودش رو بهبود بده. اما شرایط استفاده از ChatGPT به صراحت می‌گه که نمی‌شه از اون در توسعه سیستم‌های هوش مصنوعی دیگه استفاده کرد.

افزایش قابلیت اعتماد با IBM watsonx

برگردیم به داستان اسموتی. نسخه عمومی ChatGPT از داده‌های پرامپت شما برای بهبود شبکه عصبی خودش استفاده می‌کنه؛ درست مثل سیبی که به اسموتی طعم می‌ده. وقتی داده‌های شما وارد ChatGPT می‌شه، درست مثل اون سیب مخلوط شده، دیگه هیچ کنترل یا اطلاعی از نحوه استفاده ازش ندارید. بنابراین، باید مطمئن باشید که حق کامل برای اضافه کردن «سیب» خودتون رو دارید و به اصطلاح، حاوی داده‌های حساس نیست.

برای رفع این نگرانی‌ها، IBM watsonx داده‌ها و مدل‌های مدیریت‌شده و شفافی رو ارائه می‌ده که کنترل و اطمینان بیشتری در ساخت و استفاده از «اسموتی» شما فراهم می‌کنه. به زبان ساده، اگه روچیر سیبش رو پس می‌خواست، watsonx می‌تونست درخواستش رو برآورده کنه. خب… اینم از تموم شدن داستان و تشبیه ما.

IBM watsonx سه ویژگی کلیدی معرفی می‌کنه — watsonx.data، watsonx.ai و watsonx.governance — که با همکاری هم، هوش مصنوعی قابل اعتمادی رو به شیوه‌ای ایجاد می‌کنن که هنوز در مدل‌های OpenAI وجود نداره. این ویژگی‌ها، داده‌ها و مدل‌های هوش مصنوعی رو مدیریت و برچسب‌گذاری می‌کنن و شفافیت در جزئیات منبع و مالکیت رو تضمین می‌کنن. اون‌ها همچنین بر مدل‌ها و داده‌ها نظارت دارن و نگرانی‌های مربوط به انحراف (drift) و سوگیری (bias) رو برطرف می‌کنن. این رویکرد دقیق، به طور موثری نگرانی‌های مربوط به مالکیت داده و حریم خصوصی رو که در این مقاله بحث شد، کاهش می‌ده.

IBM با شرکت متن‌باز Hugging Face همکاری کرده تا اکوسیستمی از مدل‌ها رو ایجاد کنه. هر دو شرکت از ویژگی‌های watsonx برای مدیریت و تایید مدل‌ها بر اساس عملکرد و قابلیت اعتمادشون استفاده می‌کنن.

ادامه مسیر با هوش مصنوعی

استفاده مستقیم از چت‌بات‌های هوش مصنوعی مثل ChatGPT در محیط شرکت، ریسک‌هایی در زمینه امنیت، نشت داده، محرمانگی، مسئولیت قانونی، مالکیت معنوی، تطابق با مقررات، محدودیت در توسعه هوش مصنوعی و حریم خصوصی به همراه داره. این ریسک‌ها می‌تونن عواقب مخربی برای سازمان‌ها داشته باشن، از جمله آسیب به اعتبار و مشکلات قانونی پرهزینه.

برای کاهش این ریسک‌ها و ایجاد یه هوش مصنوعی قابل اعتماد، IBM watsonx به عنوان یه راه‌حل پیشنهادی مطرح می‌شه. این پلتفرم، داده‌ها و مدل‌های هوش مصنوعی مدیریت‌شده و برچسب‌گذاری‌شده‌ای رو ارائه می‌ده که شفافیت در مالکیت و منبع رو تضمین می‌کنه. همچنین با پرداختن به نگرانی‌های مربوط به سوگیری و انحراف، یه لایه اعتماد اضافی ایجاد می‌کنه. IBM watsonx تعادلی بین نوآوری و استفاده مسئولانه از هوش مصنوعی برقرار می‌کنه. علاوه بر این، همکاری بین IBM و Hugging Face اکوسیستم مدل‌ها رو تقویت می‌کنه.

با اینکه watsonx اعتماد و دقت بیشتری رو ارائه می‌ده، اما در حال حاضر مدل‌های کمی می‌تونن با گستره وسیع کاربردهای عمومی ChatGPT و خانواده مدل‌های GPT رقابت کنن. حوزه مدل‌های هوش مصنوعی به طور مداوم در حال تحوله و می‌تونیم منتظر بهبودهای مستمر باشیم. برای اطمینان از نتایج بهینه، خیلی مهمه که بفهمیم مدل‌ها چطور رتبه‌بندی و آموزش داده می‌شن. این دانش به شما امکان می‌ده تصمیمات آگاهانه‌ای بگیرید و به سازمان‌ها کمک می‌کنه مدل‌هایی رو انتخاب کنن که به بهترین شکل با نیازها و استانداردهای کیفی اون‌ها هماهنگ باشه.

با استفاده از watsonx، سازمان‌ها می‌تونن از قدرت هوش مصنوعی بهره‌مند بشن و در عین حال کنترل داده‌های خودشون رو حفظ کنن و از تطابق با استانداردهای اخلاقی و قانونی مطمئن بشن. اون‌ها می‌تونن از داده‌هاشون محافظت کنن، از مالکیت معنویشون دفاع کنن و اعتماد سهامداران رو جلب کنن؛ همه این‌ها در حالیه که از مدل‌های مدیریت‌شده و شفافیت بیشتر بهره‌مند می‌شن. همزمان که کسب‌وکارها در قلمرو هوش مصنوعی قدم برمی‌دارن، خیلی مهمه که با احتیاط پیش برن، راه‌حل‌های مختلف رو بررسی کنن و هوش مصنوعی قابل اعتماد رو در اولویت قرار بدن.