نوربرت وینر، پدر علم سایبرنتیک، دهه‌ها پیش هشدار داد که حلقه‌های بازخورد می‌توانند انسان را گرفتار کنند. امروز، با گوشی‌های هوشمند، شبکه‌های اجتماعی و هوش مصنوعی، پیش‌بینی او بیش از هر زمان دیگری واقعی شده است.

تصور کنید نیمه‌شب است و شما همچنان مشغول اسکرول کردن بی‌پایان در شبکه‌های اجتماعی هستید. این رفتار برای ما بسیار آشناست؛ اما آیا می‌دانستید که یک دانشمند MIT به نام نوربرت وینر (Norbert Wiener) در سال ۱۹۴۹، یعنی دهه‌ها پیش از اختراع اینترنت و موبایل، چنین رفتاری را پیش‌بینی کرده بود؟

وینر بنیان‌گذار علمی به نام سایبرنتیک (Cybernetics) است؛ دانشی که به مطالعه‌ی ارتباط و کنترل در سیستم‌های انسانی و ماشینی می‌پردازد. او معتقد بود حلقه‌های بازخورد (Feedback Loops) می‌توانند به سرعت رفتار انسان‌ها را شکل دهند و حتی ما را در دام اعتیاد به فناوری بیندازند.

این مقاله از مجله اینترنتی اسید هولیک با نگاهی تحلیلی، داستان وینر، ایده‌های او و کاربردهای امروزی نظریه‌اش در حوزه‌هایی چون شبکه‌های اجتماعی، هوش مصنوعی، الگوریتم‌ها و اخلاق فناوری را بررسی می‌کند.

نوربرت وینر و زایش علم سایبرنتیک

در خلال جنگ جهانی دوم، وینر به همراه تیمی در MIT روی سیستم‌های ضدهوایی کار می‌کرد. هدف این سیستم‌ها، پیش‌بینی حرکات هواپیماهای دشمن و تنظیم خودکار شلیک‌ها بود. این تلاش‌ها منجر به شکل‌گیری مفهوم حلقه بازخورد شد: سیستمی که نتیجه‌ی عملکرد گذشته را دریافت کرده، تحلیل می‌کند و در اقدام بعدی از آن استفاده می‌کند.

در سال ۱۹۴۸، وینر کتاب مشهور «سایبرنتیک» را منتشر کرد و دو سال بعد با اثر مهم‌ترش، «استفاده انسانی از انسان‌ها» (The Human Use of Human Beings)، هشدار داد که این سیستم‌های خودکار می‌توانند سرعت تغییرات اجتماعی را بیش از توانایی انسان‌ها برای سازگاری بالا ببرند.

سه حقیقت کلیدی از نگاه وینر

۱. معیارها به واقعیت تبدیل می‌شوند

یک ترموستات تنها دما را تنظیم می‌کند، فارغ از اینکه شرایط بیرون چیست. یک ردیاب تناسب اندام فقط گام‌ها را می‌شمارد، نه سلامت واقعی شما را. الگوریتم‌های شبکه‌های اجتماعی هم حقیقت یا کیفیت را نمی‌سنجند؛ تنها چیزی که برایشان مهم است، مدت زمان ماندن شما در پلتفرم است.
به بیان دیگر، هر حلقه بازخورد تنها هدفی را دنبال می‌کند که طراحش برای آن تعیین کرده است.

۲. سرعت، میزان کنترل شما را شکل می‌دهد

در جنگ جهانی دوم، سیستم‌های ضدهوایی باید چند ثانیه جلوتر از حرکت هواپیما را پیش‌بینی می‌کردند. امروز، الگوریتم‌های گوشی‌های هوشمند و اپلیکیشن‌ها در میلی‌ثانیه‌ها واکنش نشان می‌دهند و حتی قبل از اینکه خودتان تصمیم بگیرید، مسیر انتخابی را جلوی شما می‌گذارند.

به قول وینر:

وقتی حلقه بازخورد سریع‌تر از قضاوت انسان بسته شود، ما دیگر هدایت نمی‌کنیم؛ بلکه هدایت می‌شویم.

۳. هر سیستم، یک سیستم اخلاقی است

وینر تأکید داشت که سیستم‌ها بی‌طرف نیستند. هر هدفی که در طراحی مشخص شود، با خود پیامدهای اخلاقی به همراه دارد.

• یک اپلیکیشن نقشه می‌تواند زمان سفر را کاهش دهد، اما شاید شما را از مسیرهای ناایمن عبور دهد.
• یک الگوریتم استخدام ممکن است کارایی را بالا ببرد، اما عدالت و تنوع را قربانی کند.
• یک فید خبری ممکن است حقیقت را نادیده بگیرد و به جای آن، خشم و هیجان را تقویت کند.

به همین دلیل، او هشدار داد که هر حلقه بازخورد درواقع یک تصمیم اخلاقی است؛ چه آن را بپذیریم یا نه.

حلقه‌های بازخورد و اعتیاد به گوشی

وقتی صفحه‌ی موبایل خود را رفرش می‌کنید، در واقع یک حلقه بازخورد در حال تکمیل است.

1. عمل شما → داده تولید می‌کند.
2. داده → خروجی سیستم را شکل می‌دهد.
3. خروجی → رفتار بعدی شما را تحریک می‌کند.

این چرخه به ظاهر ساده، پایه‌ی اصلی اعتیاد به گوشی‌های هوشمند و اینفینیت اسکرول (Infinite Scroll) است. همان چیزی که وینر پیش‌بینی کرده بود: ماشین‌ها دقیقاً همان چیزی را تقویت می‌کنند که برایشان تعریف شده است، بدون توجه به عواقب انسانی.

چرا هشدارهای وینر امروز مهم‌تر از همیشه است؟

وینر در دهه‌ای هشدار داد که حتی تلویزیون به ندرت در خانه‌ها پیدا می‌شد. اما امروز، ما در جهانی زندگی می‌کنیم که:

• الگوریتم‌ها تصمیم می‌گیرند چه محتوایی ببینیم.
• هوش مصنوعی سرعت تغییرات را از توانایی ما برای سازگاری پیشی داده است.
• ارزش‌ها و اخلاقیات در دل کدها و طراحی سیستم‌ها نهفته‌اند.

به همین دلیل است که بحث‌های مدرن درباره‌ی اخلاق هوش مصنوعی، شفافیت الگوریتم‌ها و سوگیری داده‌ها، در حقیقت بازتاب همان هشدارهای وینر هستند.

درسی برای عصر هوش مصنوعی

امروز هر حلقه بازخورد، درواقع نوعی سیاست است. هر معیار، انتخابی درباره‌ی این است که چه چیزی اهمیت دارد. این یعنی طراحی فناوری نه فقط یک کار فنی، بلکه یک تصمیم اجتماعی و اخلاقی است.

از نگاه وینر:

• اگر حلقه بازخورد بر روی کلیک‌ها تمرکز کند، نتیجه کلیک‌بیت است.
• اگر روی زمان سپری‌شده تمرکز کند، نتیجه اعتیاد به اسکرول است.
• اگر بر سودآوری تمرکز کند، نتیجه می‌تواند نادیده گرفتن ارزش‌های انسانی باشد.

جمع‌بندی؛ آیا هنوز فرصت هدایت داریم؟

نوربرت وینر نه تنها پدر سایبرنتیک است، بلکه می‌توان او را یکی از نخستین متفکران اخلاق فناوری نیز دانست. او به ما یادآور می‌شود که فناوری‌ها صرفاً ابزار نیستند، بلکه سیستم‌هایی هستند که ارزش‌ها را در دل خود حمل می‌کنند.

اگر امروز در برابر گوشی‌تان احساس بی‌اختیاری می‌کنید، این دقیقاً همان چیزی است که وینر ۷۵ سال پیش هشدار داده بود: حلقه‌های بازخورد، اگر سریع‌تر از توانایی قضاوت ما عمل کنند، ما را به جای راننده، به مسافر تبدیل خواهند کرد.

راه نجات، بازاندیشی در طراحی است:

• انتخاب معیارهایی که واقعاً به نفع انسان باشند.
• در نظر گرفتن اخلاق و عدالت در طراحی الگوریتم‌ها.
• و مهم‌تر از همه، به یاد داشتن اینکه هر حلقه بازخورد یک تصمیم اخلاقی است.