یک ابزار جدید هوش مصنوعی وعده می‌دهد تعاملات اجتماعی را بهبود بخشد، اما در عوض آن‌ها را بدتر می‌کند.
چگونه می‌توان در یک مکالمه تقلب کرد؟ این می‌توانست در زمان‌های مختلف یک کوان زن باشد. در زمان نامطلوبی که امروز در آن زندگی می‌کنیم، این سؤال است که پشت ابزار هوش مصنوعی به نام Cluely حرکت می‌کند.
بیانیه شرکت می‌گوید: «ما می‌خواهیم در همه چیز تقلب کنیم». در حال حاضر Cluely برای تقلب در کارهای مرتبط با کامپیوتر مناسب‌ترین است: این برنامه به‌صورت یک لایه نیمه‌شفاف بر روی صفحه‌نمایشتان ظاهر می‌شود و می‌تواند هر متنی که در حال نگاه کردن به آن هستید را بخواند و به سؤالات مربوط به آن پاسخ دهد. می‌توانید از Cluely برای تقلب در تکالیف یا امتحان خود استفاده کنید، اگر آن امتحان روی لپ‌تاپ برگزار شود. اما هدف اصلی که به نظر می‌رسد Cluely برای «تقلب» در آن طراحی شده، مکالمات زنده است. این ابزار می‌تواند در تماس‌های تصویری یا صوتی صدا شنود کند، خلاصه‌ای لحظه‌به‌لحظه از آنچه گفته می‌شود ارائه دهد، اطلاعات مرتبط از وب را فراهم کند و در صورت درخواست، سؤال‌های پیگیری یا جملات دیگر را پیشنهاد دهد. اگر برای مدتی حواستان پرت شد، می‌توانید از آن بخواهید چند دقیقهٔ گذشته را برایتان خلاصه کند.
فرضیهٔ پشت Cluely این است که اجازه دادن به یک هوش مصنوعی برای نقش «سیرا نو» (Cyrano) تعاملات بهتری نسبت به اعتماد به ذهن خودمان ایجاد می‌کند. برای آزمون این ادعا، من Cluely را در گفتگوهای غیررسمی و مصاحبه‌های رسمی امتحان کردم تا ببینم آیا می‌توانم در مکالمه موفق به تقلب شوم و چطور استفاده از هوش مصنوعی تجربهٔ ارتباط را تغییر می‌دهد. به این نتیجه رسیدم که هر درک یا حس ارتباطی که از گفتگوهایی با کمک Cluely حاصل شد، علیرغم هوش مصنوعی بود، نه به‌دلیل آن.
اولاً، من با ویراستارم از Cluely استفاده کردم؛ ما پشت سر یکدیگر پشت میز کنفرانس‌نشسته بودیم و گپ می‌زدیم. او برایم دربارهٔ مشکلی که فرزندش در اردوگاه تابستانی داشت، گفت؛ او به هر گونه مشاوره‌ای، چه انسانی و چه غیرانسانی، باز بود. Cluely پیشنهاد داد که به او بگویم: «رویکردها شامل گفت‌وگوهای حمایتی، پیگیری عوامل استرس‌زا به‌صورت مداوم و در صورت ضرورت، درگیر کردن مشاوران است.»
این توصیه خوب بود، اگرچه کمی کلی‌نظری؛ اما نه شبیه به من، نه شبیه به هیچ انسانی‌ای به‌نظر می‌آمد. عنصر کلیدی در مکالمه، به گفتهٔ دبورا تانن، استاد زبان‌شناسی دانشگاه جرج‌تاون، «سبک گفت‌وگو» است — شخصیت گفتار، نحوه منحصر به‌فردی که افراد چیزها را می‌گویند. هوش مصنوعی نمی‌تواند این را بازتولید کند. سبک گفت‌وگوی من ترکیبی از تمام افرادی است که تا به‌حال با آن‌ها صحبت کرده‌ام و تمام تجربیاتی که داشته‌ام. حتی اگر هوش مصنوعی تمام مقالاتم را جست‌وجو کند و به تمام تماس‌های Zoom من گوش دهد، باز هم تمام زندگی‌ام را نمی‌داند. مؤثرترین راه برای تولید جمله‌ای شبیه به چیزی که من می‌گویم، این است که خودم بگویم.
البته لازم نیست پیشنهادهای Cluely را دقیقاً همان‌گونه بخوانید. می‌توان استدلال کرد که بهترین روش استفاده از آن این است که ایده‌هایش را بگیرید و به زبان خود بازنویسی کنید. من این کار را با صداقت در مصاحبه‌ها با تانن و N. J. Enfield، انسان‌شناس زبانی در دانشگاه سیدنی، انجام دادم. (تانن تا پایان مصاحبه نمی‌دانست که من از Cluely استفاده می‌کنم؛ من این را پیش از interview برای Enfield گفتم چون او در اروپا بود، جایی که قوانین حریم خصوصی و ضبط صدا سخت‌تر است.) من Cluely را تا حد امکان به‌صورت یکپارچه در گفت‌وگوهای‌مان ادغام کردم. تمام مهارت‌های نمایشی دوران دبیرستانم را به کار بردم و سعی کردم سؤال‌های Cluely را به صدای خودم بیان کنم. در طول مصاحبه‌ها، پیشنهادهای Cluely را با واکنش‌های طبیعی خود و سؤال‌های پیش‌برنامه‌ام ترکیب کردم. کسانی که با آن‌ها صحبت می‌کردم گفتند نمی‌توانند تشخیص دهند کدام سؤال از من آمده و کدام از هوش مصنوعی. وقتی حدس می‌زدند، اغلب اشتباه می‌کردند.
بنابراین اگر تقلب در گفتگو به معنای استفاده از هوش مصنوعی باشد بدون اینکه کسی بتواند تشخیص دهد، برای من، در این گفتگوها، ابزار کار می‌کرد. اما هم‌سازنده و مدیرعامل Cluely، روی لی، گفت که معنای تقلب او این است که «به اندازه‌ای بهره‌مند شوید» — یعنی داشتن چنین قدرتی به‌نفع خود — «که بتوانید کاری را انجام دهید که دیگران آن را ناعادلانه می‌دانند». بیانیه شرکت Cluely را مقایسه می‌کند با استفاده از ماشین‌حساب یا بررسی املا؛ لی گفت این شبیه رانندگی با خودرو به‌جای ارابهٔ اسبی است. به‌طور کلی، شرکت از واژه تقلب استفاده می‌کند چون جذاب است، اما آنچه معنی می‌دهد این است که کاری را آسان‌تر و کارآمدتر انجام دهید و نتیجهٔ بهتری نسبت به آنچه خودتان می‌توانستید به‌دست آورید، به‌دست آورید.
اگر این فرض مشکوک که تقلب صرفاً مسألهٔ به‌دست‌آوردن نفوذ است را بپذیرم، پس Cluely به من در تقلب در گفتگوها کمک نکرد. بلکه آن‌ها را دشوارتر، کم‌کارآمدتر و بدتر کرد.
برای ارزیابی موفقیت یک گفت‌وگو، باید این سؤال را بپرسید: گفت‌وگو به چه منظوری است؟ هدف از صحبت کردن با هر کسی درباره هر چیزی چیست؟
به‌نظر لی، یک گفت‌وگوی خوب «چیزی است که هر دو طرف از آن ارزش استخراج می‌کنند»، «چه این ارزش عاطفی باشد یا ارزش مادی‑پولی‌گری است». او افزود هوش مصنوعی می‌تواند اطلاعاتی در اختیار شما بگذارد تا بتوانید این ارزش را به‌طور کارآمدتر استخراج کنید.
به‌نظر Enfield، یک گفت‌وگو دو هدف دارد. هدف اول درک ساده است — یعنی گرفتن آنچه طرف مقابل می‌گوید. هدف دوم میکانیسم اجتماعی است — ایجاد یا تقویت رابطه.
چیز عجیبی که در اختراع ماشینی برای کمک به انسان‌ها در برقراری گفت‌وگو وجود دارد، این است که، به گفتهٔ Enfield، انسان‌ها هم‌اکنون هستند ماشین‌های گفت‌وگو — به‌طور دقیق تنظیم شده. گفت‌وگو «یک نوع فعالیت بسیار با کارآیی بالا» است. این کار نیازمند «پردازشی در چندین سطح» است. شما نه‌تنها به آنچه طرف مقابل می‌گوید پاسخ می‌دهید، بلکه پیش‌بینی می‌کنید که چگونه ممکن است به شما واکنش نشان دهند و می‌دانید که آن‌ها چه می‌دانند. «عملکرد شما تا حد زیادی به بازخوردی که از طرف مقابل دریافت می‌کنید وابسته است»، Enfield گفت، «و این بازخورد متقابل است.»
در تلاش برای تقویت تعاملات اجتماعی، Cluely می‌تواند در حقیقت عملکرد ماشین گفت‌وگوی انسانی را مختل کند. یکی از مشکلات، ایجاد تأخیر است. Enfield گفت مردم «حس فوق‌العاده‌ای» نسبت به اختلالات زمانی دارند. اگر تأخیر دلیل واضحی داشته باشد — مثلاً یک نفر گِنجی بزرگ از غذا می‌گیرد — گفتگو می‌تواند بدون مشکل ادامه یابد. اما اگر دلیل واضحی نباشد، افراد تمایل دارند دلیل اجتماعی برای مشکل زمان‌بندی پیدا کنند: اینکه دو نفر در گفت‌وگو هماهنگ نیستند، یا یک نفر در موقعیت‌های اجتماعی ناخوشایند است یا حتی شاید از طرف مقابل خوشش نیاید. بنابراین زمانی که برای بررسی یک پیشنهاد هوش مصنوعی صرف می‌شود، ممکن است به رابطه آسیب بزند، حتی اگر پیشنهاد فوق‌العاده باشد.
Cluely همچنین بسیار حواس‌پرت‌کننده است. هنگامی که با تانن و Enfield از طریق Zoom صحبت می‌کردم، این ابزار همیشه در گوشهٔ چشمم حضور داشت، تیک‑تیک‑تیک می‌زد و یک نوار اسکرول زنده از پیشنهادهای قابل کلیک برایم نشان می‌داد. Enfield گفت که حواس‌پرتی یکی دیگر از مواردی است که انسان‌ها نسبت به آن حساس‌اند هنگام مکالمه. اگر یک نفر حس کند که دیگری توجه نمی‌کند، «آنگاه من کم‌سخن می‌شوم»، او گفت. «قادر به بیان داستانم به طور مؤثر نمی‌شوم، چون، مثل، متوجه می‌شوید؟» مکالمه من با تانن نیز لحظه‌ای این‌چنین بود. پرسشی پیگیری که Cluely پیشنهاد داده بود را پرسیدم و او برای لحظه‌ای ساکت شد و در پاسخدهی دچار مشکل شد. بعداً، تانن گفت که فکر می‌کرد همان سؤال را پیش از این در گفتگو پاسخ داده بود. و با نگاه به متن پیام‌ها، دیدم که او درست می‌گوید. احتمالاً به همین دلیل بود که هوش مصنوعی سؤال را مطرح کرد — در حال تکرار آنچه او تازه گفته بود. و من به‌دلیل حواس‌پرتی نتوانستم متوجه شوم. زمانی که به تانن گفتم از Cluely استفاده می‌کنم، او بیشتر خندید تا عصبی شود؛ اما گفت استفاده از آن «اصل گفت‌وگو را نقض می‌کند».
تنها زمانی که احساس تمرکز دوگانه‌ای به این شدت داشته‌ام، زمانی بود که برای یک پادکست که میزبانی می‌کردم، مصاحبه انجام می‌دادم. در آن گفتگوها سعی می‌کردم همزمان در Zoom با مصاحبه‌شونده حضور داشته باشم و به یادداشت‌هایم در یک Google Doc که تولیدکننده‌ام سؤالات را جابه‌جا می‌کرد و پیشنهادهای آنی می‌داد، نگاه کنم. تلاش برای تمرکز همزمان بر چندین مورد و انتقال روان آن‌ها به بحث، فشار ذهنی‌ای ایجاد می‌کرد که گویی مغزم مثل فن لپ‌تاپ داغ می‌شود. این کار خسته‌کننده بود؛ روزهایی که مصاحبه‌های پادکست می‌داشتم، ساعت ۲۱ شب می‌خوابیدم. استفاده از Cluely همچنین بود، اما پیشنهادهای آن مفید نبودند.
تبلیغی که در سال جاری هنگام عرضهٔ Cluely منتشر شد، لئی را نشان می‌دهد که در یک قرار رمانتیک با یک زن جوان حضور دارد. یک صفحهٔ بزرگ که فقط برای لئی قابل مشاهده است، روی میزی بین آن‌ها معلق می‌شود و به او می‌آموزد که در مورد سن‌اش دروغ بگوید و تصاویر آثار هنری زن را نشان دهد تا با تحسین‌هایش او را آرام کند، زمانی که متوجه دروغ او می‌شود و ناراحت می‌گردد. این تصویر از یک مانع عظیم بین دو نفر که سعی می‌کنند به‌هم برسند، به‌طور شبیه‌آفرینی تجربهٔ من از گفتگو با هوش مصنوعی می‌باشد.
وقتی با او صحبت کردیم، لئی گفت: «این تبلیغ کمی گمراه‌کننده است»، به این معنی که «یک دستیار گفت‌وگوی هوش مصنوعی احتمالاً کم‌ترین کمک را زمانی می‌کند که با کسی به طور رمانتیک صحبت می‌کنید و هدف صرفاً احساسی است». سپس از او پرسیدم چرا این مثال را در تبلیغ استفاده کرده‌اند؟ او گفت: «این تبلیغ بازدهی بیشتری نسبت به تماس‌های فروش یا پشتیبانی مشتری دارد». (به‌نظر می‌رسد شرکت متوجه شده است که کاربری‌های حرفه‌ای، واضح‌ترین مورد استفادهٔ Cluely در حال حاضر است و اخیراً وب‌سایت خود را به‌روزرسانی کرد تا آن را به‌عنوان «دستیار هوش مصنوعی شماره ۱ برای جلسات» معرفی کند.)
این نکته مهم است: هدف‌مند به‌صورت برانگیزاننده رفتار کردن بخش بزرگی از برندهای لئی و Cluely را تشکیل می‌دهد. Cluely ابتدا به‌عنوان برنامه‌ای برای تقلب در مصاحبه‌های کاری آغاز شد که لئی و هم‌بنیان‌گذارش، نیل شان‌موگام، را در زمان تحصیل در دانشگاه کلمبیا به مشکل انداخت. پس از آن‌ها تحصیل را رها کردند و به‌صورت کامل بر مسألهٔ تقلب تمرکز کردند. به‌نظر می‌رسد این تحریک‌ها مؤثر بوده‌اند. شرکت در دورهٔ اولیهٔ جذب سرمایه‌اش در اوایل سال جاری ۵٫۳ میلیون دلار جمع‌آوری کرد و سپس ۱۵ میلیون دلار دیگر از شرکت سرمایه‌گذاری Andreessen Horowitz دریافت کرد. لئی گفته است که این برنامه حدود ۱۰۰٬۰۰۰ کاربر دارد. پست او در شبکه‌های اجتماعی که معرفی Cluely را به این شکل انجام داده بود: «امروز شروع دنیایی است که دیگر نیازی به فکر کردن ندارید»، تا به‌این‌جا ۳٫۷ میلیون بار بازدید شده است. آیا او واقعاً باور دارد که دنیایی بدون فکر می‌تواند و باید محقق شود؟ لئی گفت: «ما فقط آب می‌زنیم. این توییتر است». به‌نظر می‌رسد صداقتشان امتیاز دارد.
با این حال، همان‌طور که بسیاری از اقدامات برای خنده‌دار بودن انجام می‌شوند، لئی و همکارانش حداقل تا حدودی جدی هستند. اگرچه لئی ادعای این را کرد که صحنهٔ قرار نمونه‌ای نمایانگر نیست، اما همچنین گفت که در چند «قرار الکترونیکی» از Cluely استفاده کرده است. لئی در حین صحبت‌ها چند بار خود را متناقض کرد؛ به‌نظر می‌رسید که مطمئن نیست چه محدودیتی برای انواع گفت‌وگوهایی که Cluely برایشان در نظر گرفته شده است دارد — یا حداقل نمی‌داند چه انتظاری از من داشته است. او گفت: «من تصور می‌کنم شما این را برای هر نوع گفت‌وگویی استفاده می‌کنید» تا هدف‌تان را سریع‌تر به‌دست آورید.
«مقصد مهم‌تر از مسیر؟» گفتم و او پاسخ داد: «دقیقا»، پیش از این که سریعاً اشاره کند که گاهی مسیر است هدف، و به‌عنوان مثال، پدری که می‌خواهد «زمانی را با نوزادش درگوشی‌زدن صرف کند» احتمالاً نیازی به هوش مصنوعی نخواهد داشت. با این حال لئی همچنین گفت که هدف نهایی هوش مصنوعی، یک تراشهٔ مغزی است که اگر تحقق یابد، امکان استفاده از هوش مصنوعی در هر گفت‌وگو را فراهم می‌کند. (وقتی با Enfield صحبت کردم، او معتقد بود که پذیرش گسترده فناوری‌هایی مثل Cluely به این معنی است که «هر کس که با او ملاقات می‌کنیم می‌تواند نوعی دیپ‌فیک باشد».)
استدلال لئی در حمایت از استفاده از Cluely به این ساده شد: دانش بیشتر برای روابط بهتر است. برای مثال، او پرسید: اگر در یک قرار هستید، آیا دوست ندارید بدانید این شخص متجاوز جنسی است یا نه؟ آیا دوست ندارید بدانید که به شما دروغ می‌گوید یا نه؟ تنها مشکلی که در تبلیغ قرار وجود دارد، این بود که دختر همچنین از Cluely استفاده نمی‌کرد. اگر او هم استفاده می‌کرد، لئی نمی‌توانست به این‌چنین مؤثر او را فریب دهد. اما من پرسیدم: آیا او تصور می‌کند که بازگویی کلمات نوشته شده توسط یک ربات باشد نوعی فریب است؟ او در حقیقت این‌طور فکر می‌کند. «اما نمی‌توانید جعبهٔ پاندورا را برای هوش مصنوعی ببندید؛ آن قبلاً بیرون است»، او گفت. بنابراین راه‌حل، به‌نظر او، این است که همه از آن استفاده کنند، برای همه فریب دیگران باشد. تقلب در همه چیز. لئی می‌خواهد «مردم را به دنیایی عادت دهد که همه به‌طور حداکثری از هوش مصنوعی استفاده می‌کنند.»
این دقیقاً نمونه‌ای از بیگ‌تک است؛ ایدهٔ اینکه مشکلاتی که تکنولوژی ایجاد می‌کند می‌تواند با تکنولوژی بیشتر حل شود. شبیه این است که سعی می‌کنیم از حواس‌پرتی ناشی از گوشی‌های هوشمند با فروش یک گجت فناوری دیگر که دسترسی به برنامه‌های حواس‌پرت را مسدود می‌کند، رفع کنیم. راه‌حلی که لئی پیشنهاد داد، به‌طرز مناسبی همان راه‌حلی است که برای او درآمد بیشتری به ارمغان می‌آورد.
آنچه استفاده از هوش مصنوعی برای «تقلب» در گفتگو را نسبت به حل مسئله با ماشین‌حساب بسیار مشکل‌تر می‌کند، طبق گفتهٔ Enfield، این است که در روابط، سرمایه‌گذاری «جایی است که اصالت از آن می‌آید. این است که شما را به‌عنوان فردی اصیل می‌سازد». تصور کنید مردی که از منشی‌اش می‌خواهد برای همسرش گل بخرد و همراه با آن کارت تبریکی بنویسد. آن گل‌ها کم‌ارزش یا حتی بی‌ارزش می‌شوند، زیرا هدف این ژست نه خود گل‌هاست و نه کلمات روی کارت؛ بلکه توجه و تلاشی است که در آن صرف شده. همان‌طور که تانن به من گفت: «منظورم این است که عشق چه معنایی دارد؟ یعنی این شخص تمام توجه تو را در اختیار دارد.»
حتی زمانی که گفتگوها صرفاً معاملاتی یا کاملاً تجاری باشند، توجه مهم است. شغل من روزنامه‌نگاری است و Enfield به من گفت که دانستن پیش‌از‌این که من از Cluely استفاده می‌کنم، او را «کمی کمتر به سؤال‌های من علاقه‌مند» کرد. او گفت که انتظار دارد سؤال من نتایج تفکر، مراقبت و تمایل به دانستن پاسخ باشد. اما «هوش مصنوعی واقعاً به پاسخ اهمیت نمی‌دهد»، او افزود. «این هوش مصنوعی گفتگو را آلوده کرد». این برای کسب‌وکار مضر است.
چند لحظه پس از قطع تماس با لئی، او ایمیلی فرستاد که از گفت‌وگو تشکر می‌کرد. من می‌دانستم که این ایمیل توسط Cluely نوشته شده؛ به‌صورت واضح نشان داده شده بود و برنامه به‌صورت خودکار یک نامه مشابه برای من تهیه کرده بود تا به او بفرستم. خواندن این یادداشت حس ارتباط یا قدردانی نسبت به لئی را برایم به‌وجود نیاورد. به‌جز شاید کمی احساس تقلب، حس خاصی نداشتم.