واکنش تند زلدا ویلیامز به دیپ‌فیک‌های پدرش؛ «این چیزی نیست که او می‌خواست»
انتشار ویدیوهای دیپ‌فیک از رابین ویلیامز با واکنش تند دخترش، زلدا ویلیامز، روبه‌رو شد. او در پیامی احساسی از کاربران خواست تا تولید و انتشار ویدیوهای مصنوعی از پدر فقیدش را متوقف کنند؛ در حالی که ابزار جدید OpenAI بار دیگر مرزهای اخلاقی هوش مصنوعی را زیر سؤال برده است.
زلدا ویلیامز، دختر بازیگر فقید رابین ویلیامز، در پیامی تأثیرگذار خطاب به هواداران پدرش خواستار توقف پخش و ارسال ویدیوهای مصنوعی از چهره‌ی او شد.
به گزارش خبرگزاری و به نقل از تک‌کرانچ، زلدا نوشت: «لطفاً دیگر ویدیوهای هوش مصنوعی از پدرم برایم نفرستید. باور کنید که نمی‌خواهم آن‌ها را ببینم یا را درک کنم. اگر ذره‌ای شرف دارید، این کار را با او و با من، و با همه، پایان دهید. این کار احمقانه، اتلاف وقت و انرژی است و حقیقتاً چیزی نیست که او می‌خواست.»
این پست در زمانی منتشر شد که چند روز از عرضه مدل ویدیویی «Sora 2» و اپلیکیشن اجتماعی «Sora» توسط شرکت OpenAI می‌گذرد؛ ابزارهایی که به کاربران امکان می‌دهند دیپ‌فیک‌هایی بسیار واقع‌گرایانه تولید کنند. متأسفانه این توانایی شامل افراد درگذشته نیز می‌شود، چرا که مطابق گزارش مرکز حقوقی مطبوعات دانشجویی، افترا به متوفی اغلب از منظر قانونی پیگردپذیر نیست.
OpenAI در طراحی محدودیت‌هایی اعلام کرده است: Sora صریحا اجازه تولید ویدیو از افراد زنده را تنها در صورتی می‌دهد که یا خودِ تولیدکننده باشند یا از شخص مورد نظر اجازه استفاده از تصویر (آن‌چه این شرکت «حضور افتخاری» می‌نامد) اخذ شده باشد. اما این قید درباره افراد متوفی اعمال نمی‌شود و بنابراین ساخت تصاویر و ویدیوهای مصنوعی از آن‌ها بدون مانع فنی انجام‌پذیر است. در نسخه‌هایی که تاکنون در دسترس قرار گرفته‌اند، نمونه‌هایی از چهره‌های تاریخی همچون مارتین لوتر کینگ جونیور، فرانکلین دلانو روزولت و ریچارد نیکسون و نیز مشاهیر درگذشته‌ای مانند باب راس، جان لنون، الکس تربک و رابین ویلیامز مشاهده شده است.
OpenAI در برابر درخواست‌ها برای توضیحِ صریح دربارۀ مجاز یا ممنوع بودن دیپ‌فیک‌سازی افراد فوت‌شده پاسخی رسمی به رسانه‌ها ارائه نکرده است. با این حال، از منظر سابقهٔ حقوقی، به‌نظر می‌رسد شرکت‌ها در بسیاری از موارد در قبال افترا به متوفی مسئول شناخته نخواهند شد و چنین موضوعاتی در قلمرو خاکستریِ قانونی قرار دارد؛ امری که احتمالاً به‌معنای مجاز بودن عملیاتی از این دست برای پلتفرم‌هاست.
زلدا ویلیامز در بخش دیگری از پیام خود نوشت: «دیدن اینکه میراثِ افراد واقعی به مجموعه‌ای از کلیپ‌های موسیقایی یا ترانه‌هایی تقلیل داده می‌شود که تنها به شکلی مبهم شبیهِ آن‌ها هستند — صرفاً برای اینکه دیگران از آن‌ها تقلید کنند و ویدیوهای بی‌ارزش تولید نمایند — دردناک و دیوانه‌کننده است.» این واکنشِ او بازتاب نگرانی‌های گسترده‌تری است که نسبت به دستکاری دیجیتالِ یادکردها و بازنمایی شهرتِ افراد در فضای مجازی ابراز می‌شود.
منتقدان OpenAI این شرکت را به اتخاذ رویکردی شتاب‌زده و بی‌ملاحظه در برابر پیامدهای اخلاقی و حقوقی تولید محتوای مصنوعی متهم می‌کنند. به‌عنوان نمونه، Sora بلافاصله پس از انتشار با موجی از کلیپ‌های مرتبط با شخصیت‌های تحت حقِ نشر مانند پیتر گریفین و پیکاچو مواجه شد.
پیش‌تر سم آلتمن، مدیرعامل OpenAI، گفته بود که استودیوها و نهادهای صاحبِ حقوقِ معنوی در صورت تمایل باید به‌طور صریح از درج IP خود در ویدیوهای تولیدشده توسط Sora جلوگیری کنند؛ موضعی که تحت فشار انتقادات اصلاح شد و این شرکت اعلام کرد که موضع خود را بازبینی خواهد کرد. انجمن تصاویر متحرک نیز از OpenAI خواسته بود تا در این زمینه اقدام کند و بر اهمیت اجرای قوانین حقِ نشر تأکید کرده است.
با توجه به میزان واقع‌گرایی خروجی‌های Sora، این مدل را می‌توان از جمله قوی‌ترین و پرخطرترین ابزارهای تولید دیپ‌فیک در دسترس عموم دانست. رقبایی نظیر xAI هنوز در این عرصه عقب‌تر هستند یا محدودیت‌هایی دارند، اما برخی پلتفرم‌ها موانع کمتری برای تولید محتوای مستهجن یا تحریف‌شده از افراد واقعی فراهم می‌کنند. اگر صنعت تکنولوژی و قانون‌گذاران نتوانند چارچوب‌های اخلاقی و حقوقی روشنی برای بازنمایی دیجیتال افراد (چه زنده و چه متوفی) تعریف کنند، با روندی مواجه خواهیم شد که می‌تواند به سوءاستفاده گسترده از خاطره و شهرت انسان‌ها بیانجامد.
زلدا ویلیامز، دختر بازیگر فقید رابین ویلیامز، در پیامی تأثیرگذار خطاب به هواداران پدرش خواستار توقف پخش و ارسال ویدیوهای مصنوعی از چهره‌ی او شد.
به گزارش خبرگزاری و به نقل از تک‌کرانچ، زلدا نوشت: «لطفاً دیگر ویدیوهای هوش مصنوعی از پدرم برایم نفرستید. باور کنید که نمی‌خواهم آن‌ها را ببینم یا را درک کنم. اگر ذره‌ای شرف دارید، این کار را با او و با من، و با همه، پایان دهید. این کار احمقانه، اتلاف وقت و انرژی است و حقیقتاً چیزی نیست که او می‌خواست.»
این پست در زمانی منتشر شد که چند روز از عرضه مدل ویدیویی «Sora 2» و اپلیکیشن اجتماعی «Sora» توسط شرکت OpenAI می‌گذرد؛ ابزارهایی که به کاربران امکان می‌دهند دیپ‌فیک‌هایی بسیار واقع‌گرایانه تولید کنند. متأسفانه این توانایی شامل افراد درگذشته نیز می‌شود، چرا که مطابق گزارش مرکز حقوقی مطبوعات دانشجویی، افترا به متوفی اغلب از منظر قانونی پیگردپذیر نیست.
OpenAI در طراحی محدودیت‌هایی اعلام کرده است: Sora صریحا اجازه تولید ویدیو از افراد زنده را تنها در صورتی می‌دهد که یا خودِ تولیدکننده باشند یا از شخص مورد نظر اجازه استفاده از تصویر (آن‌چه این شرکت «حضور افتخاری» می‌نامد) اخذ شده باشد. اما این قید درباره افراد متوفی اعمال نمی‌شود و بنابراین ساخت تصاویر و ویدیوهای مصنوعی از آن‌ها بدون مانع فنی انجام‌پذیر است. در نسخه‌هایی که تاکنون در دسترس قرار گرفته‌اند، نمونه‌هایی از چهره‌های تاریخی همچون مارتین لوتر کینگ جونیور، فرانکلین دلانو روزولت و ریچارد نیکسون و نیز مشاهیر درگذشته‌ای مانند باب راس، جان لنون، الکس تربک و رابین ویلیامز مشاهده شده است.
OpenAI در برابر درخواست‌ها برای توضیحِ صریح دربارۀ مجاز یا ممنوع بودن دیپ‌فیک‌سازی افراد فوت‌شده پاسخی رسمی به رسانه‌ها ارائه نکرده است. با این حال، از منظر سابقهٔ حقوقی، به‌نظر می‌رسد شرکت‌ها در بسیاری از موارد در قبال افترا به متوفی مسئول شناخته نخواهند شد و چنین موضوعاتی در قلمرو خاکستریِ قانونی قرار دارد؛ امری که احتمالاً به‌معنای مجاز بودن عملیاتی از این دست برای پلتفرم‌هاست.
زلدا ویلیامز در بخش دیگری از پیام خود نوشت: «دیدن اینکه میراثِ افراد واقعی به مجموعه‌ای از کلیپ‌های موسیقایی یا ترانه‌هایی تقلیل داده می‌شود که تنها به شکلی مبهم شبیهِ آن‌ها هستند — صرفاً برای اینکه دیگران از آن‌ها تقلید کنند و ویدیوهای بی‌ارزش تولید نمایند — دردناک و دیوانه‌کننده است.» این واکنشِ او بازتاب نگرانی‌های گسترده‌تری است که نسبت به دستکاری دیجیتالِ یادکردها و بازنمایی شهرتِ افراد در فضای مجازی ابراز می‌شود.
منتقدان OpenAI این شرکت را به اتخاذ رویکردی شتاب‌زده و بی‌ملاحظه در برابر پیامدهای اخلاقی و حقوقی تولید محتوای مصنوعی متهم می‌کنند. به‌عنوان نمونه، Sora بلافاصله پس از انتشار با موجی از کلیپ‌های مرتبط با شخصیت‌های تحت حقِ نشر مانند پیتر گریفین و پیکاچو مواجه شد.
پیش‌تر سم آلتمن، مدیرعامل OpenAI، گفته بود که استودیوها و نهادهای صاحبِ حقوقِ معنوی در صورت تمایل باید به‌طور صریح از درج IP خود در ویدیوهای تولیدشده توسط Sora جلوگیری کنند؛ موضعی که تحت فشار انتقادات اصلاح شد و این شرکت اعلام کرد که موضع خود را بازبینی خواهد کرد. انجمن تصاویر متحرک نیز از OpenAI خواسته بود تا در این زمینه اقدام کند و بر اهمیت اجرای قوانین حقِ نشر تأکید کرده است.
با توجه به میزان واقع‌گرایی خروجی‌های Sora، این مدل را می‌توان از جمله قوی‌ترین و پرخطرترین ابزارهای تولید دیپ‌فیک در دسترس عموم دانست. رقبایی نظیر xAI هنوز در این عرصه عقب‌تر هستند یا محدودیت‌هایی دارند، اما برخی پلتفرم‌ها موانع کمتری برای تولید محتوای مستهجن یا تحریف‌شده از افراد واقعی فراهم می‌کنند. اگر صنعت تکنولوژی و قانون‌گذاران نتوانند چارچوب‌های اخلاقی و حقوقی روشنی برای بازنمایی دیجیتال افراد (چه زنده و چه متوفی) تعریف کنند، با روندی مواجه خواهیم شد که می‌تواند به سوءاستفاده گسترده از خاطره و شهرت انسان‌ها بیانجامد.
*
