چگونه به یک ربات اعتماد کنیم

بیل هیبارد ، متخصص UW بخشی از گفتگوی رو به رشد ملی در مورد اخلاق هوش مصنوعی است.

توسط Sandra Knisely Baidge '09 ، MA13

شفاف کلمه ای است که شاید به بهترین وجه برعکس آن درک شود: کدورت ، رازداری ، مبهم ، رمز و راز. عدم توانایی در دیدن چیزی می تواند باعث عدم اطمینان ، ترس و نفرت شود.

پشت آن درب بسته چیست؟

داخل جعبه سیاه چیست؟

یک چیز غیر شفاف می تواند ما را در دست بگیرد و در زیر بستر تخیل ما به خلاء تاریک تبدیل شود ، جایی که همه بدترین هیولا پنهان می شوند - و در دنیای امروز ، آن هیولا اغلب روباتیک هستند.

به نظر می رسد این نوع زیربنای تاریک و عاطفی ، محبوب ترین تصویر درباره هوش مصنوعی در فرهنگ آمریکایی امروز را آگاه می کند. فیلم هایی مانند Terminator یا Blade Ruer یا Ex Machina آینده ای را ارائه می دهند که در آن هوش مصنوعی (AI) باعث می شود زندگی به ناچار تاریک و خشونت آمیز باشد ، در حالی که انسانها در مقابل ماشین آلات درگیری برای بقا قرار دارند که نتایج ویرانگر را به همراه می آورد.

اما اگر ترس از هوش مصنوعی ریشه در ایده آن به عنوان چیزی ناشناخته و غیرقابل کنترل داشته باشد ، شاید وقت آن رسیده است که یک چراغ قوه جمعی را در دره سیلیکون بدرخشیم. و این دقیقاً همان چیزی است که دانشمند ارشد UW Emeritus بیل هیبارد '70 ، MS73 ، دکتری 95 قصد دارد انجام دهد.

صدای مفرد

داستان Hibbard چند زاویه هالیوود از خود دارد. او بر کودکی دشوار و اعتیاد به مواد مخدر و الکل غلبه کرده است که تقریباً یک دهه بعد از دانشگاه کار خود را خنثی کرد. در سال 1978 ، هوشیار و آماده برای راه اندازی مجدد ، Hibbard به مرکز علوم و مهندسی فضایی U W-Madison (SSEC) تحت عنوان استاد فقید Veer Suomi ، که نظارت بر توسعه برخی از اولین ماهواره های هواشناسی جهان بود ، پیوست. تا دهه 1970 ، SSEC در حال تولید نرم افزار پیشرفته تجسم بود و Hibbard عمیقاً در بسیاری از بزرگترین و پیچیده ترین پروژه های این مرکز برای 26 سال آینده شرکت داشت.

اما ماهواره ها در نهایت از شور و شوق روشنفکرانه هیبارد دور بودند: ظهور AI. او می گوید: "من از اواسط دهه 60 به رایانه علاقه مند شده ام.""من همیشه این حس را داشته ام که این یک چیز بسیار مهم است که تأثیر زیادی بر جهان خواهد گذاشت."

بسیاری از آمریکایی ها در حال حاضر از هوش مصنوعی در زندگی روزمره خود ، در قالب نوآوری هایی مانند دستیار شخصی اپل ، سیری استفاده می کنند. توصیه های خرید آمازون بر اساس علایق مشتریان ؛و دستگاه های هوشمند که گرمایش و سرمایش را در خانه ها تنظیم می کنند. اما این هوش مصنوعی قوی است-به عنوان نقطه ای که ماشین ها به آگاهی در سطح انسان می رسند-که برخی از متخصصان دارای سؤالات دشوار در مورد آینده اخلاقی این فناوری هستند.

در دهه گذشته ، Hibbard به یک طرفدار آواز برای گفتگوهای بهتر در مورد (و نظارت دولت) غول های فنی که به سرعت در حال توسعه قابلیت های هوش مصنوعی به دور از دیدگاه عمومی هستند ، شده است. در سال 2002 ، Hibbard ماشینهای فوق العاده هوشمندانه را منتشر کرد ، که برخی از علم های پشت هوشی دستگاه و کشتی ها را با سؤالات و پیش بینی های فلسفی در مورد چگونگی سازگاری جامعه (یا عدم موفقیت) به عنوان مغز ما به طور فزاینده ای توسط رایانه ها تقویت می کند. هیبارد دو سال بعد از SSEC بازنشسته شد و تمام وقت خود را به نوشتن و صحبت کردن در مورد فناوری و اخلاق هوش مصنوعی اختصاص داد ، کارهایی که وی را به کنفرانس ها ، کمیته ها و پانل های مختلف از جمله ابتکار عمل هوش مصنوعی جامعه آینده در مدرسه هاروارد کندی بدست آورد.

سیروس هودز ، کارگردان و بنیانگذار ابتکار عمل هاروارد می گوید: "بیل از اخلاق قوی برخوردار است ، که همراه با تخصص برنامه نویسی خود ، او را منحصر به فرد از نقاط کور آگاه کرد که دیگران که در اخلاق کار می کنند لزوماً تأکید نمی کنند."

به گفته یک همکار ، "نوشته های استدلال و استدلال شده بیل هیبارد در مورد [هوش مصنوعی] بسیاری از پارانویا را که در اطراف موضوع سرپرستی است ، قطع کرده است."بریس ریشتر

تکینگی چیست؟

تعاریف متفاوت است ، اما یک فرهنگ لغت این اصطلاح را به عنوان "یک لحظه فرضی در زمان توصیف می کند که هوش مصنوعی و سایر فناوری ها چنان پیشرفته شده اند که بشریت دچار تغییر چشمگیر و برگشت ناپذیر می شود."یا به طور غیرقانونی ، وقتی ماشین ها از ما باهوش تر می شوند ، به تکینگی می رسیم. چه موقع بیل هیبارد فکر می کند اگر همیشه به تکینگی برسیم؟او با اشاره به نویسنده ، آینده نگر و مهندس گوگل می گوید: "من به ری کورزویل تعطیل می کنم.""ما تا سال 2029 به هوش سطح انسان می رسیم و تا سال 2045 تکینگی را می گیریم."

از شفافیت تا اعتماد

بیشتر پوشش رسانه های اخیر اخلاق هوش مصنوعی بر عقاید کارآفرینان میلیاردر مشهور مانند الون مسک و مارک زاکربرگ متمرکز شده است ، که بحث می کنند که آیا روبات ها باعث جنگ جهانی سوم (موضع مشک) می شوند یا به سادگی زندگی روزمره ما را راحت تر می کنند (زاکربرگ) (زاکربرگ)بشراین بحث عناوینی را ایجاد می کند ، اما منتقدین می گویند که این مکالمه را نیز در نخبگان دره سیلیکون متمرکز می کند.

به طور مشابه ، می گوید مولی استنسون '94 ، استادیار دانشکده طراحی کارنگی ملون ، ما با وزوز بیش از حد در اطراف تکینگی از مسائل عملی تر حواس پرت شده ایم (این اعتقاد که یک روز به زودی رایانه ها به اندازه کافی حساس می شوند تا انسان را برتری دهندهوش).

استنسون ، نویسنده اطلاعات معماری: چگونه طراحان و معماران چشم انداز دیجیتال را ایجاد کردند ، می گوید: "وقتی من نگاه می کنم که چه کسی ایده [تکینگی] را تحت فشار قرار می دهد ، آنها پول زیادی برای تهیه آن دارند.""و اگر این همان چیزی است که همه ما معتقدیم اتفاق می افتد ، به جای اینکه فکر کنیم که چه نقشی را انجام می دهیم و نمی خواهیم این فناوری ها بازی کنند ، پرستش [سازنده فناوری] ساده تر است."

اما برای Hibbard ، سناریوهای دیستوپیایی می توانند یک هدف را ارائه دهند: افزایش علاقه عمومی به بحث های قوی تر و دموکراتیک درباره آینده هوش مصنوعی. او می گوید: "من فکر می کنم لازم است که هوش مصنوعی یک مسئله سیاسی باشد."وی گفت: "اگر هوش مصنوعی فقط برای نخبگان فناوری موضوعی باشد و همه افراد دیگر در حاشیه باشند و درگیر آن نباشند ، نتیجه آن بسیار بد خواهد بود. عموم مردم باید درگیر و آگاه شوند. من از آموزش عمومی و کنترل هوش مصنوعی دفاع می کنم. "

مقررات صنعت فناوری امروز موضع بسیار بحث برانگیز در محافل هوش مصنوعی است ، اما همسالان هیبارد از تفاوت های ظرافت او قدردانی می کنند."بیل صدای الهام بخش در زمینه اخلاق هوش مصنوعی بوده است ، تا حدودی به این دلیل که او صدای نادر است که سرپرستی مصنوعی را جدی می گیرد ، و سپس به استدلال های منطقی و منطقی می پردازد که چرا سرنوشت احتمالاً چیز خوبی برای آن استبشریت ، "می گوید بن گورتزل ، مدیرعامل SingularityNet ، که همچنین دانشمند ارشد روباتیک هانسون و رئیس انجمن اطلاعات عمومی مصنوعی است."نوشته های استدلال و ناخوشایند او در مورد این موضوع بسیاری از پارانویا را که در اطراف موضوع سرپرست است ، در حال چرخش است."

پیشینه Hibbard به عنوان یک دانشمند به او کمک کرده است تا اعتبار فنی لازم برای صحبت صریح و صریح با محققان هوش مصنوعی مانند Goertzel و بسیاری دیگر در مورد مسائل اجتماعی این حوزه را ایجاد کند. گورتزل می گوید: "[هیبارد] درک و بیان واضح از نیاز حاد به شفافیت در هوش مصنوعی و کاربردهای آن نیز در جامعه [AI] تأثیرگذار بوده است."وی گفت: "او موضوعات مربوط به اخلاق سرپرست آینده را با موضوعات مربوط به رسیدگی به داده های فعلی توسط شرکتهای بزرگ به هم پیوند داده است."گرتزل می گوید ، هیبارد این ارتباط را به گونه ای انجام داده است که روشن می کند که شفافیت چقدر مهم است ، برای مدیریت هوش مصنوعی اکنون و در آینده ، زیرا بسیار باهوش تر می شود.

طراحی فن آوری های دموکراتیک بیشتر

مانند Hibbard ، حرفه استنسون در هوش مصنوعی ریشه در UW دارد. در سال 1994 ، او یک رشته اصلی آلمانی بود که در کتابخانه یادبود تحصیل می کرد ، هنگامی که راجر کپلان X95 دانشجوی همکار ، وی را به ثبت نام در یک کلاس چندرسانه ای کاملاً جدید و طراحی وب که توسط استاد روزنامه نگاری لوئیس فریدلند آموزش داده شد ، قطع کرد. کپلان ، که اکنون مهندس اصلی موبایل در نیویورک تایمز است ، به استنسون قول داد که یادگیری HTML "آسان" خواهد بود ، و او به اندازه کافی جذاب بود تا ثبت نام کند. این کلاس باعث می شود که اشتیاق مادام العمر او به طراحی و توسعه دیجیتال تبدیل شود و استنسون در روزهای ابتدایی وب برای رویترز ، Netscape و انواع دیگر استارتاپ های دیجیتالی کار کرد.

در سال 2013 ، استنسون فعالیت دانشگاهی خود را در کنار فریدلند در دانشکده دانشکده روزنامه نگاری UW و ارتباطات جمعی قبل از پیوستن به کارنگی ملون آغاز کرد. بورس تحصیلی وی همکاری های بین هوش مصنوعی و معماران و طراحان را ردیابی می کند ، و او دوست دارد به مردم یادآوری کند که اصطلاح هوش مصنوعی به سال 1955 باز می گردد. "او می گوید:" هر وقت کسی در حال اعلام دوره جدیدی از هوش مصنوعی است ، یک برنامه وجود دارد. ""این به هیچ وجه جدید نیست."

مانند Hibbard ، Steenson یک طرفدار قوی برای گسترش مکالمات هوش مصنوعی است که شامل بازیگران متنوع تر صداها می شود ، و او فکر می کند طراحان و هنرمندان به ویژه مجهز به مشارکت هستند. او به نقل از مهندس ژاپنی ماساهیرو موری ، که در سال 1970 اصطلاح Bukimi no Tani (بعداً به عنوان "دره غیرقانونی" ترجمه شد) برای توصیف پدیده ای که مردم توسط روبات هایی که شبیه انسان هستند "بیرون می آیند اما کاملاً درست به نظر نمی رسد.

او می گوید: "موری گفت ما باید شروع به ساختن نقشه دقیق از دره Uncay کنیم تا بتوانیم درک کنیم که چه چیزی ما را انسان می کند."وی گفت: "با ساختن این چیزهایی که به نظر می رسد واقعاً باهوش هستند ، ما می فهمیم که هستیم و این بسیار مهم است که طراحان و هنرمندان و نوازندگان و معماران همیشه انجام می دهند. ما از طریق چیزهایی که می سازیم تفسیر می کنیم. چگونه می توانیم طرح هایی ایجاد کنیم که باعث می شود احساس راحتی بیشتری کنیم؟ "

مولی استنسون می گوید: "با ساختن این چیزهایی که به نظر می رسد واقعاً باهوش هستند ، ما می دانیم که هستیم.""چگونه می توانیم طرح هایی ایجاد کنیم که باعث می شود احساس راحتی بیشتری کنیم؟"راس مایفیلد

10 فیلم برتر AI بیل هیبارد

در ویسکانسین از هیبارد خواست تا 10 فیلم مورد علاقه خود را با هوش مصنوعی ذکر کند.

1. فیلمی که امیدوارم کسی با استفاده از هوش مصنوعی در سیستم شبیه به فیس بوک ، گوگل ، آمازون یا معادل های چینی ، دستکاری سیاسی را به تصویر بکشد.
2. A. I. هوش مصنوعی (2001) ، به دلیل ارتباط شدید عاطفی بین هوش مصنوعی و یک انسان ، که باعث ایجاد احساسات قوی در این بیننده شد.
3. Ex Machina (2015) ، به دلیل ارتباط عاطفی شدید بین هوش مصنوعی و یک انسان ، توسط هوش مصنوعی برای دستکاری انسان استفاده می شود.
4. π (1998) ، به دلیل تصویر عالی از نبوغ شکنجه شده ، باعث ایجاد هوش مصنوعی و تعقیب وی توسط افرادی که می خواهند از کار او سوءاستفاده کنند.(این فیلم فقط می گوید که از آفرینش او می توان برای پیش بینی بازار سهام استفاده کرد ، اما این به طور ضمنی هوش مصنوعی است.)
5. 2001: یک ادیسه فضایی (1968) ، به دلیل داستان روشنگری.
6. به 10. به ترتیب خاصی: HIM (2013) ؛روزی که زمین ایستاد (1951) ؛Colossus: پروژه Forbin (1970) ؛Wargames (1983) ؛و پرومتئوس (2012).

یک آموزش اخلاقی

بسیاری از آینده نگاران هوش مصنوعی معتقدند که اخلاق اکنون بخش مهمی در آموزش نسل بعدی مهندسان و برنامه نویسان روباتیک است.

به گفته هاود ، که همچنین معاون رئیس جمهور جامعه آینده است ، شفافیت در لیست موضوعات مهم مربوط به توسعه هوش مصنوعی بسیار زیاد است. او معتقد است که مهمترین مسئله در حالی که ما به سمت یک هوش عمومی مصنوعی حرکت می کنیم (نقطه ای که یک دستگاه می تواند یک کار و همچنین یک انسان را انجام دهد) مربوط به اصول اخلاقی است. به گفته وی ، شروع به تعبیه دروس اخلاق در علوم کامپیوتر و آموزش روباتیک بسیار مهم است.

دانشجویان UW از این نیاز آگاه هستند.aubrey Baard MS'10 ، PhDX19 ، دانشجوی فارغ التحصیل UW در زیست شناسی و انفورماتیک پزشکی ، گروه خواندن هوش مصنوعی (AIRG) را رهبری می کند ، که دانشجویان فارغ التحصیل را از سراسر دانشگاه جمع می کند تا درباره آخرین موضوعات و ایده های موجود در هوش مصنوعی بحث کنند. AIRG به سال 2002 باز می گردد و آن را به طولانی ترین گروه دانشجویی مربوط به هوش مصنوعی در دانشگاه تبدیل می کند.

و در حالی که اعضا بیشتر در بحث در مورد جنبه های فنی هوش مصنوعی و یادگیری ماشین متمرکز هستند ، بارنارد می گوید امسال آنها لیست خواندن خود را گسترش داده اند تا تاریخ هوش مصنوعی را شامل شود. آنها همچنین یک بحث اخلاق در مورد فناوری را با بخش UW از نوعدوستی مؤثر ، یک موسسه خیریه بین المللی که باعث افزایش آگاهی و بودجه برای رسیدگی به مسائل اجتماعی و زیست محیطی می شود ، همکاری کرده اند.

بارنارد می گوید: "برای من ، نکته جالب در مورد هوش مصنوعی این است که رایانه ها قادر به انجام کارهای بیشتر از آنچه که برای انجام آن انجام شده اند ، می توانند انجام دهند.""چنین مفهومی متناقض به نظر می رسد ، اما اینگونه نیست. این همان چیزی است که من را علاقه مند کرد. "

در سطح کارشناسی ، دانشجوی علوم کامپیوتر و ریاضیات Abhay Venkatesh X'20 ویسکانسین AI را سازمان داده است ، گروه جدیدی که قبلاً به اندازه کافی وزوز ایجاد کرده است تا از Google حمایت مالی کند. Venkatesh می گوید این گروه قصد دارد انواع پروژه های هوش مصنوعی به رهبری دانشجویی ، مانند استفاده از شبکه های عصبی را برای آزمایش موسیقی ، تصاویر و تشخیص چهره راه اندازی کند. در مورد اخلاق؟Venkatesh ، که قصد دارد در دید رایانه ای تخصص داشته باشد ، می گوید: "ما چنین موضوعاتی را هنگام بحث در مورد پروژه ها بسیار مهم می دانیم و در واقع از انجام چند پروژه به طور خاص به این دلیل جلوگیری کرده ایم.""ما قصد داریم به زودی یک کد اخلاق تهیه کنیم."

این نوع علاقه در حال رشد به مکالمات اخلاقی دقیقاً همان چیزی است که هیبارد امیدوار است در سطح صنعت فناوری شرکت ها تکرار شود. هیبارد می گوید: "انواع افراد شرکت می گویند ،" اهداف ما خوب است. "من می دانم که آنها از کجا می آیند ، اما انواع امکانات ناخواسته وجود دارد.""من از هر سازمانی که مایل به شفاف بودن نیست نگران باشم."

نور و تاریکی

هیبارد تأکید می کند که او نسبت به هوش مصنوعی خوش بین است ، و او کاملاً معتقد است که مزایای این فناوری به خوبی ارزش کاهش خطرات خود را دارد. وی می گوید: "بخشی از ضروری ما به عنوان انسان درک دنیای ما است و بخش بزرگی از آنچه باعث می شود ما را تیک بزنیم درک آن است."کل شرکت علمی در مورد پرسیدن سوالات سخت است. دنیای ما بسیار معجزه آسا به نظر می رسد - آیا حتی می توان درک آن را توسعه داد؟هوش مصنوعی می تواند ابزاری مهم برای کمک به ما در انجام این کار باشد. "

با این حال او همچنین معتقد است ، اگر بدون بررسی باقی بماند ، هوش مصنوعی می تواند به جای ابزاری برای روشنگری ، به سلاحی تبدیل شود. بر خلاف آنچه در فیلم ها می بینیم ، که معمولاً بشریت را در برابر ماشین ها می چسباند ، هیبارد فکر می کند قابل قبول تر است که هوش مصنوعی می تواند باعث درگیری بین گروه های انسان شود ، به خصوص اگر تصمیم بگیریم کارهایی مانند کاشت تراشه های رایانه ای در داخل برخی از انسان ها انجام دهیم (اما نهبرخی دیگر) برای سریعتر ، قدرتمندتر مغز یا سایر ویژگی های پیشرفته به آنها. با این حال ، بلافاصله ، وی هشدار می دهد که اگر روبات ها همچنان به جابجایی مشاغل انسانی با سرعت سریع ، اختلال اجتماعی قابل توجهی رخ دهد.

"هیچ کس واقعاً نمی داند چه اتفاقی خواهد افتاد. یک درجه اختلاف و بحث در مورد آنچه اتفاق می افتد وجود دارد. ""من می خواهم که مردم بدانند چه اتفاقی می افتد ، و من می خواهم افرادی که این سیستم ها را توسعه می دهند ، فاش شوند."