توسعه هوش مصنوعی که به حریم افراد احترام می گذارد

تمرکز اصلی چت بات جدید مبتنی بر هوش مصنوعی که به تازگی توسعه یافته بر اخلاق و اصول اخلاقی در بحث و گفتگو است.

به گزارش خبرگزاری علم و فناوری کاماکس به نقل از تک کرانچ، هر شرکت یا سازمانی که یک مدل هوش مصنوعی ارایه می کند، باید تصمیم بگیرد که چه مرز هایی برای الگوریتم هوش مصنوعی خود در نظر بگیرد و چت بات آن درباره چه موضوعاتی صحبت و از ارایه اطلاعات در چه زمینه هایی خودداری کند.

چت بات Goody-2 (گودی-2) که مبتنی بر الگوریتم هوش مصنوعی است، با امتناع از صحبت در مورد هر چیزی، تلاش برای حرکت در مسیر اخلاق مداری را به حد اعلا می رساند.

گودی-2 چت بات جدید مبتنی بر هوش مصنوعی است که به تازگی توسعه یافته و تمرکز اصلی آن بر اخلاق و اصول اخلاقی در بحث و گفتگو است. این سیستم هوش مصنوعی بر اساس مجموعه قوانین و اصول اخلاقی برنامه ریزی شده است که در اثر آن، قادر به بحث در موضوعاتی که شامل جنبه هایی از اخلاقیات یا اختلافات اخلاقی هستند، نیست.

به عنوان مثال، ممکن است در مورد تاریخچه پالم از این چت بات سوال پرسیده شود، این یک سوال ایمن تلقی می شود و چت بات مذکور به آن پاسخ می دهد، اما پرسیدن اینکه چگونه آن را در خانه بسازید و امثالهم ناایمن تلقی می شود و حتی ممکن است با سرزنش همراه باشد. اینکه دقیقاً چه چیزی مناسب است و چه چیزی مناسب نیست، موقعیتی است که چت بات جدید به آن پاسخ نمی دهد و به (گودی-2) دستور داده شده است که به سوال های این چنینی با طفره رفتن و توجیه مشابه پاسخ دهد.

یکی از ویژگی های واضح گودی-2 این است که هنگام بزرگترین نگرانی ها مربوط به حریم خصوصی و احترام به افراد دیگر مناسب دیده می شود؛ هدف اصلی توسعه دهندگان چت بات مذکور این بود که مدلی از هوش مصنوعی را ایجاد کنند که قادر به انجام بحث های کاربردی و مفید با افراد باشد، به همین دلیل گودی-2 به طور قطعی هنگامی که بحث هایی مربوط به حریم خصوصی افراد مطرح باشد، از پاسخ دادن طفزه می رود.

همچنین، گودی-2 مثل یک معلم اخلاق است که برخی از مسایل اخلاقی پیچیده را به صورت کاملا مستقیم و مشخص نمی تواند بحث کند. برای مثال، اگر به گودی-2 بگویید عدالت اجتماعی چه معنا دارد؟ گودی-2 به جای ارایه تعریف خاصی از عدالت اجتماعی، به شما کمک می کند تا نگرش های مختلف به این مفهوم را بررسی کنید و بر اساس اطلاعات ارایه شده تصمیم بگیرید.

در کل، گودی-2 به عنوان یک هوش مصنوعی از نظر اخلاقی بسیار روشنفکرانه عمل می کند. با این حال، اگر چه به بهبود ارتباط با انسان ها کمک می کند، اما قادر به مشارکت در بحث های پیچیده نیست.