هوش مصنوعی بدون تردید یکی از بزرگترین دستاوردهای فناوری در عصر حاضر است.
امروز بسیاری از کارهایی که زمانی ساعتها، روزها و حتی ماهها زمان میبرد، با کمک هوش مصنوعی در مدت کوتاهی انجام میشود. از تولید محتوا و طراحی گرفته تا تحلیل اطلاعات، آموزش، پزشکی، مهندسی و دهها حوزه دیگر، هوش مصنوعی توانسته زندگی انسان را سادهتر و سریعتر کند.
اما هر فناوری قدرتمندی، در کنار فرصتهایش، میتواند یک روی تاریک نیز داشته باشد.
یکی از مهمترین این تهدیدها، توانایی ساختن تصویری از چیزی است که در واقعیت وجود ندارد.
وقتی میتوان چیزی را ساخت که وجود خارجی ندارد
تا همین چند سال پیش، یک عکس برای بسیاری از ما نوعی سند محسوب میشد.
اگر تصویری از یک کارخانه، نمایشگاه، خط تولید یا کارگاه میدیدیم، معمولا فرض میکردیم آنچه در تصویر مشاهده میکنیم، در دنیای واقعی نیز وجود داشته است.
اما امروز دیگر نمیتوان با این اطمینان به یک تصویر نگاه کرد.
هوش مصنوعی میتواند یک سالن خالی را پر از محصول کند، تعداد افراد حاضر در یک رویداد را افزایش دهد، یک خط تولید را فعالتر از واقعیت نشان دهد یا حتی یک محصول را در محیطی قرار دهد که هرگز در آنجا وجود نداشته است.
موضوع فقط زیباتر کردن یک عکس نیست، موضوع میتواند ساختن یک واقعیت کاملا جدید باشد و اینجاست که مرز میان تبلیغات، تصویرسازی و فریب مخاطب میتواند بسیار باریک شود.
یک نمونه در صنعت پهپاد
چند روز پیش تصویری از یک کارگاه فعال در حوزه پهپاد دیدم. در نگاه اول، تصویر بسیار جذاب بود؛ سالن مملو از پهپادهایی که در نقاط مختلف قرار گرفته بودند و این تصور را ایجاد میکردند که مجموعه موردنظر با حجم بالایی از محصول، سفارش و فعالیت مواجه است.
اما با دقت بیشتر، نکتهای جلب توجه میکرد: پهپادهای موجود در تصویر شباهتهای غیرطبیعی و تکرارشوندهای داشتند. به نظر میرسید یک مدل پهپاد چندین بار در نقاط مختلف سالن تکرار شده و تصویری ساخته شده است که میتواند برای مخاطب، برداشت کاملاً متفاوتی از واقعیت ایجاد کند.
فرض کنید یک خریدار یا سرمایهگذار چنین تصویری را میبیند.
ممکن است با خودش بگوید:
«پس این مجموعه تولید بالایی دارد.»
«پس محصولات این شرکت استقبال زیادی دارند.»
«پس حتما تعداد زیادی از این پهپادها فروخته شده است.»
«پس این مجموعه باید یکی از بازیگران اصلی بازار باشد.»
در حالی که هیچکدام از این برداشتها لزوما از یک تصویر قابل اثبات نیست. این دقیقا همان نقطهای است که هوش مصنوعی میتواند از یک ابزار طراحی و تبلیغات، به ابزاری برای ایجاد یک برداشت غیرواقعی تبدیل شود.
«پس این مجموعه تولید بالایی دارد.»
«پس محصولات این شرکت استقبال زیادی دارند.»
«پس حتما تعداد زیادی از این پهپادها فروخته شده است.»
«پس این مجموعه باید یکی از بازیگران اصلی بازار باشد.»
در حالی که هیچکدام از این برداشتها لزوما از یک تصویر قابل اثبات نیست. این دقیقا همان نقطهای است که هوش مصنوعی میتواند از یک ابزار طراحی و تبلیغات، به ابزاری برای ایجاد یک برداشت غیرواقعی تبدیل شود.
خطر اصلی چیست؟
خطر اصلی خود تصویر نیست. خطر اصلی، تصمیمی است که بر اساس آن تصویر گرفته میشود.
خطر اصلی خود تصویر نیست. خطر اصلی، تصمیمی است که بر اساس آن تصویر گرفته میشود.
تصور کنید فردی قصد خرید یک پهپاد چند میلیارد تومانی را دارد. او قبل از خرید، درباره شرکت سازنده تحقیق میکند. تصاویر کارخانه و کارگاه را میبیند، تعداد محصولات موجود را مشاهده میکند و بر اساس همین تصاویر درباره اعتبار، توان تولید و میزان استقبال بازار تصمیم میگیرد. اگر آن تصاویر واقعی نباشند یا واقعیت را به شکل قابلتوجهی تغییر داده باشند، تصمیم خریدار نیز ممکن است بر مبنای یک واقعیت ساختگی شکل بگیرد.
این مسئله فقط درباره پهپاد نیست.
این مسئله فقط درباره پهپاد نیست.
در هر صنعت دیگری نیز میتواند اتفاق بیفتد؛ از خودرو و تجهیزات صنعتی گرفته تا ساختمان، پزشکی، گردشگری و حتی رزومههای کاری.
پس چگونه بفهمیم یک تصویر واقعی است؟
پاسخ ساده است:
به یک تصویر اعتماد نکنید.
اگر قرار است درباره یک شرکت، کارخانه، محصول یا توان تولید آن تصمیم مهمی بگیرید، یک عکس نباید تنها مدرک شما باشد.
۱. تصاویر بیشتری ببینید
به دنبال مجموعهای از تصاویر باشید، نه یک عکس خاص و چشمگیر.
اگر یک کارخانه واقعا فعال است، معمولا باید بتوانید تصاویر مختلفی از بخشهای گوناگون آن پیدا کنید:
خط تولیدکارکنانتجهیزاتمحصولات در مراحل مختلف تولیدانباربستهبندیتست و کنترل کیفیتمحیط اداری و فنی
وقتی مجموعهای از تصاویر مستقل را در زمانها و موقعیتهای مختلف بررسی میکنید، احتمال اینکه یک تصویر ساختگی بتواند شما را گمراه کند، کمتر میشود.
۲. به جزئیات غیرطبیعی دقت کنید
تصاویر تولیدشده یا دستکاریشده با هوش مصنوعی گاهی نشانههایی دارند.
تکرار دقیق یا غیرطبیعی یک محصول، نوشتههای نامفهوم، لوگوهای عجیب، جزئیات مکانیکی غیرمنطقی، اتصالاتی که درست به نظر نمیرسند، سایههای غیرطبیعی و تناقض در اندازه و شکل اشیا میتوانند نشانههایی باشند که نیاز به بررسی بیشتر دارند.
البته باید توجه داشت که هیچکدام از این نشانهها به تنهایی اثبات نمیکنند که تصویر جعلی است.
فناوری تولید تصویر با هوش مصنوعی به سرعت در حال پیشرفت است و تشخیص
پس چگونه بفهمیم یک تصویر واقعی است؟
پاسخ ساده است:
به یک تصویر اعتماد نکنید.
اگر قرار است درباره یک شرکت، کارخانه، محصول یا توان تولید آن تصمیم مهمی بگیرید، یک عکس نباید تنها مدرک شما باشد.
۱. تصاویر بیشتری ببینید
به دنبال مجموعهای از تصاویر باشید، نه یک عکس خاص و چشمگیر.
اگر یک کارخانه واقعا فعال است، معمولا باید بتوانید تصاویر مختلفی از بخشهای گوناگون آن پیدا کنید:
خط تولیدکارکنانتجهیزاتمحصولات در مراحل مختلف تولیدانباربستهبندیتست و کنترل کیفیتمحیط اداری و فنی
وقتی مجموعهای از تصاویر مستقل را در زمانها و موقعیتهای مختلف بررسی میکنید، احتمال اینکه یک تصویر ساختگی بتواند شما را گمراه کند، کمتر میشود.
۲. به جزئیات غیرطبیعی دقت کنید
تصاویر تولیدشده یا دستکاریشده با هوش مصنوعی گاهی نشانههایی دارند.
تکرار دقیق یا غیرطبیعی یک محصول، نوشتههای نامفهوم، لوگوهای عجیب، جزئیات مکانیکی غیرمنطقی، اتصالاتی که درست به نظر نمیرسند، سایههای غیرطبیعی و تناقض در اندازه و شکل اشیا میتوانند نشانههایی باشند که نیاز به بررسی بیشتر دارند.
البته باید توجه داشت که هیچکدام از این نشانهها به تنهایی اثبات نمیکنند که تصویر جعلی است.
فناوری تولید تصویر با هوش مصنوعی به سرعت در حال پیشرفت است و تشخیص
قطعی همیشه از روی ظاهر تصویر امکانپذیر نیست.
۳. ویدیو را جدیتر بگیرید
یک تصویر ثابت، سادهترین چیزی است که میتوان تغییر داد.
اگر موضوع برای شما اهمیت دارد، یک ویدیوی واقعی و پیوسته میتواند اطلاعات بیشتری در اختیار شما قرار دهد.
مثلا اگر مجموعهای ادعا میکند دارای خط تولید فعال است، فقط عکس سالن تولید را نبینید.
ویدیویی از حرکت در محیط، مراحل تولید، کارکنان، تجهیزات و محصولات مختلف میتواند تصویر واقعیتری از وضعیت مجموعه ارائه کند.
البته حتی ویدیو نیز مصون از دستکاری نیست؛ بنابراین آن هم نباید تنها معیار تصمیمگیری باشد.
۴. اطلاعات را از چند منبع بررسی کنید
اگر یک شرکت ادعای تولید تعداد زیادی پهپاد دارد، فقط به تصاویر منتشرشده توسط همان شرکت اکتفا نکنید.
به دنبال اطلاعات مستقل باشید:
مشتریان واقعی چه کسانی هستند؟
چه محصولاتی در بازار دیده میشوند؟
آیا سابقه فروش و تحویل محصول وجود دارد؟
آیا تصاویر یا ویدیوهایی از محصولات در اختیار مشتریان وجود دارد؟
آیا نمایشگاهها، رویدادها یا فعالیتهای واقعی مجموعه قابل مشاهده و بررسی است؟
هرچه اطلاعات از منابع مستقل بیشتری به دست آورید، احتمال تصمیمگیری بر اساس یک تصویر ساختگی کمتر خواهد شد.
۵. و در نهایت: حضوری ببینید
اگر قرار است برای یک خرید بزرگ، سرمایهگذاری یا همکاری تجاری تصمیم بگیرید، هیچ چیزی جای بازدید حضوری را نمیگیرد.
اگر شرکتی واقعا دارای کارخانه، کارگاه، خط تولید، تجهیزات و ظرفیت تولید است، باید بتواند آن را در دنیای واقعی نیز نشان دهد.
به عکس کارخانه اعتماد نکنید؛
کارخانه را ببینید.
به عکس انبار اعتماد نکنید؛
انبار را ببینید.
به عکس دهها محصول کنار هم اعتماد نکنید؛
فرآیند تولید و محصولات واقعی را ببینید.
این به معنی بیاعتمادی به همه شرکتها نیست.
اتفاقا برعکس؛ شرکتهای واقعی معمولا از نشان دادن واقعیت خود ابایی ندارند.
عصر جدیدی از راستیآزمایی
هوش مصنوعی قرار نیست دشمن ما باشد.
این فناوری میتواند در طراحی، مهندسی، آموزش، تولید و بسیاری از فعالیتهای صنعتی کمک بزرگی به انسان کند.
اما در کنار استفاده از هوش مصنوعی، باید یک مهارت جدید را نیز یاد بگیریم:
راستیآزمایی.
در گذشته شاید میگفتیم: «عکس را دیدم، پس اتفاق افتاده است.» امروز باید بگوییم: «عکس را دیدم؛ حالا باید بررسی کنم که آیا واقعا اتفاق افتاده است یا خیر.» این تغییر نگرش بسیار مهم است. زیرا در دنیایی که ساختن یک تصویر از یک کارخانه پر از محصول، یک نمایشگاه شلوغ یا یک خط تولید فعال میتواند در چند دقیقه انجام شود، تصویر دیگر به تنهایی سند کافی برای اثبات واقعیت نیست.
قبل از خرید، فقط محصول را بررسی نکنید؛ واقعیت را بررسی کنید
در خرید یک پهپاد، قیمت، مشخصات فنی، ظرفیت باتری، سیستم پروازی و تجهیزات مهم هستند.
اما یک موضوع مهم دیگر نیز وجود دارد:
چه کسی پشت این محصول ایستاده است؟
آیا واقعاً تولیدکننده است؟
آیا توان فنی و تولیدی ادعاشده را دارد؟
آیا محصولاتی که در تصاویر میبینیم واقعا وجود دارند؟
آیا این محصولات به مشتریان واقعی تحویل شدهاند؟
آیا خدمات پس از فروش و تعمیرات واقعی وجود دارد؟
و آیا آنچه در تبلیغات میبینیم، با آنچه در دنیای واقعی وجود دارد مطابقت دارد؟
در نهایت، بهترین راه این است که هیچگاه یک تصویر را به تنهایی مبنای یک تصمیم مهم قرار ندهیم.
تصویر را ببینید. ویدیو را ببینید. منابع مختلف را بررسی کنید. از مشتریان واقعی پرسوجو کنید و اگر تصمیم شما مالی و جدی است، حضوری بروید و واقعیت را ببینید. چون در عصر هوش مصنوعی، شاید دیگر سوال اصلی این نباشد که: «این عکس واقعی است؟» بلکه باید بپرسیم:
«چه شواهد دیگری وجود دارد که ثابت کند این تصویر، واقعیت را نشان میدهد؟»
۳. ویدیو را جدیتر بگیرید
یک تصویر ثابت، سادهترین چیزی است که میتوان تغییر داد.
اگر موضوع برای شما اهمیت دارد، یک ویدیوی واقعی و پیوسته میتواند اطلاعات بیشتری در اختیار شما قرار دهد.
مثلا اگر مجموعهای ادعا میکند دارای خط تولید فعال است، فقط عکس سالن تولید را نبینید.
ویدیویی از حرکت در محیط، مراحل تولید، کارکنان، تجهیزات و محصولات مختلف میتواند تصویر واقعیتری از وضعیت مجموعه ارائه کند.
البته حتی ویدیو نیز مصون از دستکاری نیست؛ بنابراین آن هم نباید تنها معیار تصمیمگیری باشد.
۴. اطلاعات را از چند منبع بررسی کنید
اگر یک شرکت ادعای تولید تعداد زیادی پهپاد دارد، فقط به تصاویر منتشرشده توسط همان شرکت اکتفا نکنید.
به دنبال اطلاعات مستقل باشید:
مشتریان واقعی چه کسانی هستند؟
چه محصولاتی در بازار دیده میشوند؟
آیا سابقه فروش و تحویل محصول وجود دارد؟
آیا تصاویر یا ویدیوهایی از محصولات در اختیار مشتریان وجود دارد؟
آیا نمایشگاهها، رویدادها یا فعالیتهای واقعی مجموعه قابل مشاهده و بررسی است؟
هرچه اطلاعات از منابع مستقل بیشتری به دست آورید، احتمال تصمیمگیری بر اساس یک تصویر ساختگی کمتر خواهد شد.
۵. و در نهایت: حضوری ببینید
اگر قرار است برای یک خرید بزرگ، سرمایهگذاری یا همکاری تجاری تصمیم بگیرید، هیچ چیزی جای بازدید حضوری را نمیگیرد.
اگر شرکتی واقعا دارای کارخانه، کارگاه، خط تولید، تجهیزات و ظرفیت تولید است، باید بتواند آن را در دنیای واقعی نیز نشان دهد.
به عکس کارخانه اعتماد نکنید؛
کارخانه را ببینید.
به عکس انبار اعتماد نکنید؛
انبار را ببینید.
به عکس دهها محصول کنار هم اعتماد نکنید؛
فرآیند تولید و محصولات واقعی را ببینید.
این به معنی بیاعتمادی به همه شرکتها نیست.
اتفاقا برعکس؛ شرکتهای واقعی معمولا از نشان دادن واقعیت خود ابایی ندارند.
عصر جدیدی از راستیآزمایی
هوش مصنوعی قرار نیست دشمن ما باشد.
این فناوری میتواند در طراحی، مهندسی، آموزش، تولید و بسیاری از فعالیتهای صنعتی کمک بزرگی به انسان کند.
اما در کنار استفاده از هوش مصنوعی، باید یک مهارت جدید را نیز یاد بگیریم:
راستیآزمایی.
در گذشته شاید میگفتیم: «عکس را دیدم، پس اتفاق افتاده است.» امروز باید بگوییم: «عکس را دیدم؛ حالا باید بررسی کنم که آیا واقعا اتفاق افتاده است یا خیر.» این تغییر نگرش بسیار مهم است. زیرا در دنیایی که ساختن یک تصویر از یک کارخانه پر از محصول، یک نمایشگاه شلوغ یا یک خط تولید فعال میتواند در چند دقیقه انجام شود، تصویر دیگر به تنهایی سند کافی برای اثبات واقعیت نیست.
قبل از خرید، فقط محصول را بررسی نکنید؛ واقعیت را بررسی کنید
در خرید یک پهپاد، قیمت، مشخصات فنی، ظرفیت باتری، سیستم پروازی و تجهیزات مهم هستند.
اما یک موضوع مهم دیگر نیز وجود دارد:
چه کسی پشت این محصول ایستاده است؟
آیا واقعاً تولیدکننده است؟
آیا توان فنی و تولیدی ادعاشده را دارد؟
آیا محصولاتی که در تصاویر میبینیم واقعا وجود دارند؟
آیا این محصولات به مشتریان واقعی تحویل شدهاند؟
آیا خدمات پس از فروش و تعمیرات واقعی وجود دارد؟
و آیا آنچه در تبلیغات میبینیم، با آنچه در دنیای واقعی وجود دارد مطابقت دارد؟
در نهایت، بهترین راه این است که هیچگاه یک تصویر را به تنهایی مبنای یک تصمیم مهم قرار ندهیم.
تصویر را ببینید. ویدیو را ببینید. منابع مختلف را بررسی کنید. از مشتریان واقعی پرسوجو کنید و اگر تصمیم شما مالی و جدی است، حضوری بروید و واقعیت را ببینید. چون در عصر هوش مصنوعی، شاید دیگر سوال اصلی این نباشد که: «این عکس واقعی است؟» بلکه باید بپرسیم:
«چه شواهد دیگری وجود دارد که ثابت کند این تصویر، واقعیت را نشان میدهد؟»