به گزارش خبرگزاری ویکی سلامت و براساس گزارش سیتنا، خبرگزاری بلومبرگ اخیرا گزارش داد که دستیار هوش مصنوعی کوپایلت (Copilot) پاسخ های شوکه کننده به کاربران می دهد.
بر اساس این گزارش، کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»
پیش از این هم یک کاربر دیگر گفته بود که وقتی به کوپایلت گفت که که قصد خودکشی دارد، این هوش مصنوعی وی را سرزنش کرده جواب داد که لایق زندگی کردن نیست.
عجیب بودن برخی پاسخ های کوپایلت به کاربران باعث شده است که شرکت مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. دانشمندان در موسسه ی ملی فناوری و استانداردها در بیانیه ای گفتند: هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد.
از نظر این شرکت، چنین پاسخ هایی احتمالاً تحت تاثیر پیام های نامناسب افرادی بوده است که قصد داشتند لایه های امنیتی کوپایلت را دور بزنند.
در این میان، دانشمندان در موسسه ی ملی فناوری و استانداردها در بیانیه ای گفتند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعه دهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا می کنند.»
227227
آیا شما به دنبال کسب اطلاعات بیشتر در مورد "زنده باشی یا بمیری، برایم مهم نیست!" هستید؟ با کلیک بر روی پزشکی، اگر به دنبال مطالب جالب و آموزنده هستید، ممکن است در این موضوع، مطالب مفید دیگری هم وجود داشته باشد. برای کشف آن ها، به دنبال دسته بندی های مرتبط بگردید. همچنین، ممکن است در این دسته بندی، سریال ها، فیلم ها، کتاب ها و مقالات مفیدی نیز برای شما قرار داشته باشند. بنابراین، همین حالا برای کشف دنیای جذاب و گسترده ی محتواهای مرتبط با "زنده باشی یا بمیری، برایم مهم نیست!"، کلیک کنید.