مقدمه
سوگیری در جستجو و سیستم‌های هوش مصنوعی، واقعیتی اجتناب‌ناپذیر است که تاثیر عمیقی بر دیده شدن، درک و کنترل برندها دارد. این مقاله به بررسی چگونگی بروز سوگیری، تفاوت آن با انتخاب عمدی و اهمیت درک آن برای بازاریابان و متخصصان روابط عمومی می‌پردازد.
خلاصه‌ی مقاله
سوگیری در سیستم‌های جستجو و هوش مصنوعی هم می‌تواند ساختاری باشد و هم عمدی. مفهوم «نرخ انتخاب» (Selection Rate) نشان می‌دهد که چگونه هوش مصنوعی برخی منابع را بیشتر از بقیه انتخاب می‌کند و این به معنای دیده‌شدن یا پنهان ماندن یک برند است. کتاب «برندها بر سر صندوق رأی» نیز بیان می‌کند که برندها نمی‌توانند از تفسیرهای مخاطبان دور بمانند؛ هر تصمیمی به عنوان یک موضع فرهنگی درک می‌شود. بازاریابان باید بدانند که سوگیریِ عمدی (مانند هدف‌گذاری مخاطب خاص) بخشی از استراتژی است. نادیده گرفتن سوگیری می‌تواند خطرناک باشد؛ زیرا بر ادراک کاربران و حتی قابلیت حمله به یک برند تأثیر می‌گذارد. نکته مهم این است که سوگیری ذاتاً شر نیست، بلکه سوگیریِ پنهان خطرناک است. برندها باید آگاهانه سوگیری خود را تعریف کنند نه اینکه آن را به شانس بسپارند.
نرخ انتخاب و سوگیری اصلی
«نرخ انتخاب» (SR) درصدی است که نشان می‌دهد یک منبع در مقایسه با گزینه‌های موجود، چند بار انتخاب می‌شود. در سیستم‌های هوش مصنوعی، این نرخ نشان‌دهنده سوگیری اصلی است؛ جایی که برخی منابع بیشتر و برخی کمتر انتخاب می‌شوند.
اگر محتوای شما به ندرت به عنوان منبع انتخابی هوش مصنوعی انتخاب شود، در خروجی این سیستم‌ها عملاً نامرئی خواهید بود. اما اگر محتوای شما به کرات انتخاب شود، اعتبار و دیده‌شدن برند شما افزایش می‌یابد.
این پدیده تنها نظری نیست. ابزارهایی مانند Perplexity، Bing Copilot و Gemini هم پاسخ‌ها و هم منابع را نمایش می‌دهند. تکرار ارجاع به منبع، دیده‌شدن و اعتبار برند شما را تقویت می‌کند.
محققان برای این بازخورد به واژه‌ای به نام «سر و صدای عصبی» (neural howlround) اشاره کرده‌اند. در یک مدل زبان بزرگ (LLM)، ورودی‌های با وزن بالا می‌توانند تثبیت شوند و الگوهای پاسخی را ایجاد کنند که حتی با داده‌های آموزشی جدید نیز مقاوم در برابر اصلاح هستند.
برندسازی و واقعیت تفسیر
مفهوم «برندها بر سر صندوق رأی» بیانگر برندسازی غیرخنثی است. شرکت‌ها نمی‌توانند از تفسیر شدن در امان باشند. هر تصمیم، چه بزرگ و چه کوچک، به عنوان یک سیگنال درک می‌شود.
این مسئله به طور مداوم قابل مشاهده است؛ مانند زمانی که نایک از کالین کپرنیک حمایت کرد یا وقتی باد لایت با یک اینفلوئنسر ترنس همکاری کرد. این‌ها فقط کمپین‌های بازاریابی نبودند؛ بلکه هر یک به عنوان یک موضع فرهنگی درک شدند.
حتی تصمیمات به ظاهر عملیاتی (مانند انتخاب پلتفرم‌های تبلیغاتی یا تامین‌کنندگان) نیز به عنوان سیگنال‌های همسویی تفسیر می‌شوند. دیگر بی‌طرفی به معنای بی‌طرفی درک نمی‌شود. این بدان معناست که تیم‌های روابط عمومی و بازاریابی باید تفسیر را بخشی از واقعیت روزمره خود در نظر بگیرند.
سوگیری هدایت‌شده به عنوان یک لنز مفید
بازاریابان از قبل با هدف‌گذاری مخاطبان و موقعیت‌یابی، عمدا به حذف برخی گروه‌ها می‌پردازند. این کار جدیدی نیست.
با این حال، زمانی که این انتخاب‌ها را از لنز سوگیری نگاه می‌کنید، موضوع واضح‌تر می‌شود: موقعیت‌یابی همان سوگیری با قصد است. این یک چیز پنهان یا تصادفی نیست. بلکه یک محدودیت عمدی در تمرکز است.
در اینجا مفهوم سوگیری هدایت‌شده مطرح می‌شود. این می‌تواند راه دیگری برای توصیف هدف‌گذاری مخاطبان یا موقعیت‌یابی بازار باشد. این یک دکترین نیست، بلکه فقط یک لنز است.
ارزش نام‌گذاری آن به این صورت، این است که آنچه بازاریابان از قبل انجام می‌دهند را به بحث گسترده‌تر در مورد چگونگی کدگذاری سوگیری توسط سیستم‌های جستجو و هوش مصنوعی متصل می‌کند.
سوگیری تنها به برندسازی یا هوش مصنوعی محدود نمی‌شود. سال‌هاست که می‌دانیم رتبه‌بندی جستجو می‌تواند رفتار کاربران را شکل دهد.
یک مطالعه PLOS در سال 2024 نشان داد که صرف تغییر ترتیب نتایج می‌تواند نظرات را تا 30 درصد تغییر دهد. مردم به نتایج با رتبه بالاتر بیشتر اعتماد می‌کنند، حتی اگر اطلاعات اساسی یکسان باشد.
حباب‌های فیلتر این اثر را تشدید می‌کنند. با تنظیم نتایج بر اساس تاریخچه، موتورهای جستجو دیدگاه‌های موجود را تقویت کرده و دسترسی به جایگزین‌ها را محدود می‌کنند.
فراتر از این سوگیری‌های رفتاری، سوگیری‌های ساختاری نیز وجود دارند. موتورهای جستجو تازگی را پاداش می‌دهند، به این معنی که سایت‌هایی که بیشتر و سریع‌تر به‌روز می‌شوند، در دیده‌شدن برتری پیدا می‌کنند، به ویژه برای جستجوهای حساس به زمان.
دامنه سطح بالای کد کشور (ccTLD) مانند .fr یا .jp می‌تواند نشانگر محلی بودن باشد که به آن‌ها در جستجوهای محلی اولویت می‌دهد.
همچنین سوگیری محبوبیت و برند نیز وجود دارد: برندهای معتبر و شناخته شده اغلب در رتبه‌بندی‌ها ترجیح داده می‌شوند، حتی اگر محتوای آن‌ها لزوماً قوی‌تر نباشد، که این امر نفوذ را برای رقبا کوچک‌تر یا جدیدتر دشوار می‌سازد.
برای متخصصان بازاریابی و روابط عمومی، درس یکسان است: سوگیری ورودی (چه داده‌هایی درباره شما موجود است) و سوگیری فرآیند (چگونگی رتبه‌بندی و ارائه سیستم‌ها) مستقیماً آنچه مخاطبان معتقدند را شکل می‌دهد.
سوگیری در خروجی‌های مدل‌های زبان بزرگ (LLMs)
مدل‌های زبان بزرگ (LLMs) لایه‌های جدیدی از سوگیری را معرفی می‌کنند. داده‌های آموزشی به ندرت متعادل هستند. برخی گروه‌ها، صداها یا دیدگاه‌ها ممکن است بیش از حد نمایش داده شوند در حالی که برخی دیگر وجود ندارند. این امر پاسخ‌هایی را که این سیستم‌ها می‌دهند، شکل می‌دهد.
طراحی پرامپت (Prompt) لایه‌ای دیگر اضافه می‌کند: بسته به نحوه پرسش، سوگیری تأیید و سوگیری دسترسی‌پذیری می‌توانند وارد شوند.
تحقیقات اخیر نشان می‌دهد که این وضعیت تا چه حد می‌تواند پیچیده باشد:
- محققان MIT دریافتند که حتی ترتیب اسناد وارد شده به LLM می‌تواند نتیجه را تغییر دهد.
- یک مقاله در Nature (2024) انواع مختلف سوگیری‌ها را در LLMها فهرست کرد، از شکاف‌های نمایش گرفته تا چارچوب‌های فرهنگی.
- یک مطالعه PNAS تأیید کرد که حتی پس از تنظیمات مربوط به عدالت، سوگیری‌های ضمنی همچنان ادامه دارند.
- LiveScience گزارش داد که چت‌بات‌های جدیدتر تمایل دارند مطالعات علمی را بیش از حد ساده کنند و جزئیات مهم را نادیده بگیرند.
این‌ها یافته‌های حاشیه‌ای نیستند. آن‌ها نشان می‌دهند که سوگیری در هوش مصنوعی یک مورد استثنا نیست؛ بلکه حالت پیش‌فرض است. برای بازاریابان و متخصصان ارتباطات، نکته این نیست که بر علم مسلط شوند؛ بلکه باید درک کنند که اگر آنچه در ابتدا وارد سیستم می‌شود را شکل ندهید، خروجی‌ها می‌توانند شما را نادرست جلوه دهند.
مرتبط ساختن رشته‌ها
نرخ انتخاب (Selection Rate) به ما سوگیری را در سیستم‌های بازیابی هوش مصنوعی نشان می‌دهد. برندسازی به ما چگونگی عملکرد سوگیری را در بازار ادراکات نشان می‌دهد. سوگیری هدایت‌شده راهی برای اتصال این واقعیت‌هاست و به ما یادآوری می‌کند که همه سوگیری‌ها تصادفی نیستند؛ گاهی اوقات انتخابی هستند.
نکته کلیدی این نیست که وانمود کنیم سوگیری وجود ندارد؛ البته که وجود دارد. نکته این است که تشخیص دهید آیا سوگیری به صورت غیرفعال بر شما تأثیر می‌گذارد، یا اینکه شما آن را فعالانه و استراتژیک به کار می‌گیرید.
هم بازاریابان و هم متخصصان روابط عمومی در اینجا نقش دارند: یکی در ساخت دارایی‌های قابل بازیابی، دیگری در شکل‌دهی به مقاومت روایی.
پس چه باید بکنید؟
درک کنید که سوگیری کجا آشکار می‌شود
در جستجو، سوگیری از طریق مطالعات، ممیزی‌ها و تست‌های سئو آشکار می‌شود. در هوش مصنوعی، توسط محققان که خروجی‌ها را با پرامپت‌های ساختاریافته بررسی می‌کنند، کشف می‌شود. در برندینگ، در واکنش مشتریان آشکار می‌شود.
نکته مهم این است که بدانید سوگیری همیشه خود را در جایی نشان می‌دهد و اگر به دنبال آن نباشید، سیگنال‌های حیاتی درباره نحوه درک یا بازیابی خود را از دست می‌دهید.
تشخیص دهید چه کسی سوگیری را پنهان می‌کند
موتورهای جستجو و ارائه‌دهندگان LLM همیشه نحوه وزن‌دهی انتخاب‌ها را فاش نمی‌کنند. شرکت‌ها اغلب ادعای بی‌طرفی می‌کنند، حتی زمانی که انتخاب‌هایشان خلاف آن را نشان می‌دهد. پنهان کردن سوگیری باعث از بین رفتن آن نمی‌شود؛ بلکه پرداختن به آن را دشوارتر کرده و با آشکار شدن نهایی آن، ریسک بیشتری ایجاد می‌کند.
اگر در مورد مواضع خود شفاف نباشید، شخص دیگری ممکن است آن را برای شما تعریف کند.
با سوگیری مانند وضوح رفتار کنید
لازم نیست موقعیت‌یابی خود را به عنوان «سوگیری هدایت‌شده ما» تعریف کنید. اما باید بپذیرید که وقتی یک مخاطب هدف (ICP) را انتخاب می‌کنید، پیام‌رسانی را تدوین می‌کنید یا محتوا را برای بازیابی توسط هوش مصنوعی بهینه‌سازی می‌کنید، انتخاب‌های عمدی درباره شمول و عدم شمول انجام می‌دهید.
وضوح به معنای پذیرش این انتخاب‌ها، اندازه‌گیری تأثیر آن‌ها و پذیرش مسیری است که تعیین کرده‌اید. این تفاوت بین سوگیری که شما را شکل می‌دهد و شما که سوگیری را شکل می‌دهید.
انضباط را در ردپای هوش مصنوعی خود به کار ببرید
همانطور که موقعیت‌یابی برند را با نیت شکل می‌دهید، باید تصمیم بگیرید که چگونه می‌خواهید در سیستم‌های هوش مصنوعی ظاهر شوید. این به معنای انتشار محتوا به گونه‌ای است که قابل بازیابی، ساختاریافته با نشانه‌های اعتماد و همسو با موضع مطلوب شما باشد.
اگر این را به طور فعال مدیریت نکنید، هوش مصنوعی همچنان در مورد شما انتخاب‌هایی خواهد کرد؛ اما این انتخاب‌ها تحت کنترل شما نخواهند بود.
یک خطر نهایی برای در نظر گرفتن
سوگیری واقعا یک شرور نیست. سوگیری پنهان شرور است.
در موتورهای جستجو، در سیستم‌های هوش مصنوعی و در بازار، سوگیری پیش‌فرض است. اشتباه بودن آن نیست. اشتباه این است که اجازه دهیم بدون آگاهی از وجود آن، نتایج را شکل دهد.
شما می‌توانید سوگیری خود را با نیت تعریف کنید یا آن را به شانس بسپارید. یک مسیر به شما کنترل می‌دهد. دیگری برند و کسب و کار شما را در معرض تعبیر دیگران قرار می‌دهد.
و در اینجا یک فکر است که هنگام کار در این زمینه به ذهنم رسید: چه می‌شود اگر سوگیری خود بتواند به یک ابزار حمله تبدیل شود؟ من مطمئن هستم که این یک ایده تازه نیست، اما بیایید به هر حال آن را بررسی کنیم.
تصور کنید یک رقیب محتوای کافی را منتشر کند تا شرکت شما را در یک نور خاص قرار دهد، به طوری که وقتی یک LLM آن ورودی‌ها را به یک پاسخ فشرده می‌کند، نسخه آن‌ها از شما ظاهر شود. حتی نیازی به نام بردن مستقیم از شما نیست.
کافی است شما را به اندازه کافی خوب توصیف کنند تا سیستم ارتباط برقرار کند. نیازی به عبور از خطوط قانونی نیز نیست، زیرا LLM های امروز در حدس زدن یک برند بسیار خوب هستند، حتی اگر فقط لوگو یا یک ویژگی شناخته شده را به زبان عادی توصیف کنید.
قسمت نگران‌کننده این است که چقدر این موضوع منطقی به نظر می‌رسد. LLM ها به معنای سنتی اطلاعات را بررسی (fact-check) نمی‌کنند؛ آن‌ها الگوهای موجود در داده‌های در دسترسشان را فشرده می‌کنند.
اگر الگوها به دلیل اینکه کسی به طور عمدی در حال شکل‌دهی روایت بوده، منحرف شده باشند، خروجی‌ها می‌توانند آن انحراف را منعکس کنند. در واقع، «نسخه» رقیب شما از برندتان می‌تواند به «توصیف پیش‌فرض» تبدیل شود که کاربران هنگام پرسیدن از سیستم درباره شما می‌بینند.
حالا تصور کنید این اتفاق در مقیاس وسیع رخ دهد. یک کمپین شایعات آنلاین نیازی به ترند شدن برای تأثیرگذاری ندارد. فقط کافی است در مکان‌های کافی، با تنوع کافی، وجود داشته باشد تا یک مدل هوش مصنوعی آن را به عنوان اجماع در نظر بگیرد. هنگامی که این موضوع در پاسخ‌ها جای گرفت، کاربران ممکن است در یافتن داستان شما با مشکل مواجه شوند.
نمی‌دانم آیا این یک خطر واقعی در آینده نزدیک است یا فقط یک آزمایش فکری در مورد یک مورد خاص، اما ارزش پرسیدن دارد: آیا برای مقابله با تلاش کسی برای تعریف مجدد کسب‌وکارتان به این شیوه، آماده خواهید بود؟