به گزارش اخبار جهان به نقل از تک کرانچ، سم آلتمن، مدیرعامل OpenAI، در بیانیه‌ای رسمی اعلام کرد که ایمنی نوجوانان در اولویت این شرکت قرار دارد و بر حریم خصوصی و آزادی بیان، حتی در بستر قدرتمند فناوری هوش مصنوعی، تقدم خواهد داشت. این رویکرد، در پی نگرانی‌های روزافزون در مورد استفاده‌ی نادرست از چت‌بات‌های هوش مصنوعی، به‌ویژه توسط کودکان و نوجوانان، اتخاذ شده است. آلتمن تاکید کرد که با توجه به ماهیت نوظهور و قدرت بالای این فناوری، محافظت از افراد زیر سن قانونی امری ضروری است.
تغییرات عمده در سیاست‌های OpenAI، عمدتاً بر تعاملات چت جی پی تی با کاربران زیر سن قانونی متمرکز شده است. این تغییرات به طور خاص، بر روی محتوای جنسی یا محتوایی که ماهیت آزاد و بدون قید و بند دارد، تمرکز می‌کند. با به‌روزرسانی الگوریتم‌های چت جی پی تی، این سیستم آموزش خواهد دید تا از هر گونه گفتگوی تحریک‌آمیز و اغواگرانه با کاربران نوجوان خودداری کند. علاوه بر این، اقدامات پیشگیرانه و محافظتی جدی‌تری برای موارد مرتبط با گفتگوهای حول محور خودکشی و افکار خودکشی در نظر گرفته شده است.
در صورت استفاده‌ی یک کاربر نوجوان یا کودک از چت جی پی تی برای شبیه‌سازی یا مطرح کردن سناریوهای خودکشی، این سرویس تلاش خواهد کرد تا بلافاصله با والدین او تماس برقرار کند. در موارد شدید و در صورت تشخیص خطر جدی، OpenAI حتی اقدام به تماس با پلیس محلی خواهد کرد. این اقدامات نشان‌دهنده‌ی تعهد جدی OpenAI به سلامت روان و ایمنی کاربران جوان است.
علاوه بر این محدودیت‌های جدید، والدینی که برای فرزندان خود زیر سن قانونی حساب کاربری در چت جی پی تی ایجاد می‌کنند، قادر خواهند بود محدودیت‌های محتوایی بیشتری را اعمال کنند. این ویژگی جدید، به والدین امکان می‌دهد تا محتواهای نامناسب را فیلتر کرده و از دسترسی فرزندان خود به آنها جلوگیری کنند. به علاوه، قابلیت تعیین “ساعت‌های خاموشی” نیز به این پلتفرم اضافه شده است؛ قابلیتی که پیش از این در دسترس نبود و امکان کنترل زمان استفاده‌ی کودکان از چت جی پی تی را برای والدین فراهم می‌کند. این ویژگی‌ها، به خانواده‌ها در کنترل و نظارت بر استفاده‌ی فرزندان خود از هوش مصنوعی کمک شایانی خواهد کرد.
این اقدامات OpenAI در راستای پاسخ به نگرانی‌های روزافزون جامعه در مورد خطرات احتمالی هوش مصنوعی برای کودکان و نوجوانان، به‌خصوص در حوزه سلامت روان و ایمنی آنلاین صورت گرفته است. در سال‌های اخیر، موارد متعددی از سوء استفاده از چت‌بات‌ها و سایر سیستم‌های هوش مصنوعی توسط افراد سودجو گزارش شده است که اغلب کودکان و نوجوانان را هدف قرار می‌دهند. این رویکرد جدید از سوی OpenAI، گامی مهم در جهت کاهش این خطرات و محافظت از کاربران آسیب‌پذیر تلقی می‌شود.
با این حال، برخی کارشناسان بر این باورند که این اقدامات کافی نیست و OpenAI باید اقدامات پیشگیرانه‌ی قوی‌تری را در نظر بگیرد. آنها بر این باورند که تنها محدود کردن محتوا کافی نیست و باید سیستم‌های تشخیص و واکنش سریع‌تری برای شناسایی و جلوگیری از سوء استفاده‌های احتمالی در چت جی پی تی پیاده‌سازی شود. همچنین بحث‌های اخلاقی پیرامون تعادل بین حریم خصوصی و ایمنی کودکان همچنان ادامه دارد. محدودیت‌های اعمال شده می‌تواند به عنوان نوعی نقض حریم خصوصی تلقی شود، در حالی که عدم اعمال محدودیت‌ها می‌تواند خطر جدی برای ایمنی کودکان داشته باشد.
در نهایت، رویکرد جدید OpenAI به دنبال یافتن تعادل بین ایمنی کودکان و آزادی بیان در فضای مجازی است. این یک چالش بزرگ برای توسعه دهندگان هوش مصنوعی است، و پیگیری و ارزیابی مستمر اثربخشی این سیاست‌ها و احتمالا اصلاح آنها در آینده، امری ضروری است. تأثیر این سیاست‌ها بر میزان استفاده‌ی کودکان از چت جی پی تی و همچنین بر روش‌های دیگر دسترسی آنها به محتواهای نامناسب، نیازمند بررسی‌های بیشتر است. اخبار جهان در آینده به بررسی و پیگیری این موضوع خواهد پرداخت.
منبع: تک کرانچ
