Ба гӯрбачаатон бигӯед, ки шумо дар дохили он чӣ фикр мекунед - эффекти қуттии сиёҳ
Далели он, ки алгоритмҳои пешрафтаи AI ба як қуттии сиёҳ монанданд (1), ки натиҷаро бидуни ошкор кардани он, ки чӣ гуна ба вуҷуд омадааст, мепартояд, баъзеҳоро ба ташвиш меорад ва дигаронро нороҳат мекунад.
Дар соли 2015 аз як гурӯҳи тадқиқотӣ дар беморхонаи кӯҳии Синай дар Ню Йорк хоҳиш карда шуд, ки ин усулро барои таҳлили пойгоҳи васеи беморони маҳаллӣ истифода барад (2). Ин маҷмӯаи азим дорои уқёнуси маълумоти беморон, натиҷаҳои санҷиш, дорухатҳои духтур ва ғайра мебошад.
Олимон барномаи аналитикиро, ки дар рафти кор тартиб дода шудаанд, номиданд. Он дар бораи маълумотҳои тақрибан 700 нафар омӯзиш дод. инсон, ва вақте ки дар реестрҳои нав санҷида шуд, он дар пешгӯии беморӣ бениҳоят муассир аст. Вай бидуни кӯмаки мутахассисони инсонӣ дар сабтҳои беморхона намунаҳоеро кашф кард, ки нишон медиҳанд, ки кадом бемор дар роҳи бемории саратони ҷигар қарор дорад. Ба гуфтаи коршиносон, самаранокии пешгӯӣ ва ташхиси система нисбат ба дигар усулҳои маълум хеле баландтар буд.
2. Системаи зеҳни сунъии тиббӣ дар асоси базаи маълумотҳои беморон
Дар айни замон, муҳаққиқон мушоҳида карданд, ки он ба таври пурасрор кор мекунад. Маълум шуд, ки барои мисол, он беҳтарин аст эътирофи ихтилоли равонӣмонанди шизофрения, ки барои духтурон нихоят душвор аст. Ин тааҷҷубовар буд, бахусус азбаски ҳеҷ кас тасаввуроте надошт, ки чӣ гуна системаи AI метавонад бемории рӯҳиро танҳо дар асоси сабтҳои тиббии бемор ин қадар хуб бубинад. Бале, мутахассисон аз ёрии чунин ташхисгари мошин хеле қаноатманд буданд, аммо агар онҳо фаҳмиданд, ки AI чӣ гуна ба хулосаҳои худ меояд, онҳо хеле қаноатманд хоҳанд буд.
Қабатҳои нейронҳои сунъӣ
Аз ибтидо, яъне аз лаҳзаи маълум шудани мафҳуми зеҳни сунъӣ дар бораи AI ду нуқтаи назар вуҷуд дошт. Якум пешнињод кард, ки сохтани мошинњое, ки аз рўи принсипњои маълум ва мантиќи инсонї амал карда, кори ботинии онњоро барои њама шаффоф гардонанд, аз њама мувофиќ аст. Дигарон боварӣ доштанд, ки иктишофӣ осонтар ба вуҷуд меояд, агар мошинҳо тавассути мушоҳида ва таҷрибаҳои такрорӣ омӯхта шаванд.
Охирин маънои баръакси барномасозии маъмулии компютериро дорад. Ба ҷои он ки барномасоз барои ҳалли мушкилот фармонҳоро нависад, барнома тавлид мекунад алгоритми худ дар асоси маълумоти намунавӣ ва натиҷаи дилхоҳ. Усулҳои омӯзиши мошинсозӣ, ки баъдтар ба системаҳои пуриқтидори AI табдил ёфтанд, ки имрӯз маълуманд, танҳо роҳи худро пеш гирифтанд, дар асл, худи машина программа мекунад.
Ин равиш дар ҳошияи таҳқиқоти системаҳои AI дар солҳои 60-ум ва 70-ум боқӣ монд. Танҳо дар ибтидои даҳсолаи гузашта, пас аз баъзе тағйирот ва такмили пешқадам, Шабакаҳои нейронии "амиқ" ба куллй бехтар шудани имкониятхои дарки автоматикунонидашуда нишон дод.
Омӯзиши амиқи мошинсозӣ ба компютерҳо қобилиятҳои ғайриоддӣ додааст, ба монанди қобилияти шинохтани калимаҳои гуфторшуда тақрибан ба мисли инсон. Ин як маҳорати хеле мураккабест барои пеш аз вақт барномарезӣ кардан. Мошин бояд қодир бошад, ки «барнома»-и худро аз ҷониби омӯзиш оид ба маҷмӯи маълумотҳои бузург.
Омӯзиши амиқ инчунин шинохти тасвири компютериро тағир дод ва сифати тарҷумаи мошиниро хеле беҳтар кард. Имрӯз, он барои қабули ҳама гуна қарорҳои асосӣ дар соҳаи тиб, молия, истеҳсолот ва ғайра истифода мешавад.
Аммо, бо хамаи ин шумо наметавонед танҳо ба дохили шабакаи амиқи нейрон нигоҳ кунед, то бубинед, ки "дар дохили он" чӣ гуна кор мекунад. Равандҳои тафаккури шабакавӣ дар рафтори ҳазорон нейронҳои симулятсияшуда, ки дар даҳҳо ва ҳатто садҳо қабатҳои мураккаби ба ҳам алоқаманд ташкил карда шудаанд, дохил карда шудаанд..
Ҳар як нейронҳо дар қабати якум воридотро қабул мекунанд, ба монанди шиддатнокии пиксел дар тасвир ва сипас пеш аз баровардани натиҷа ҳисобҳоро иҷро мекунанд. Онҳо дар шабакаи мураккаб ба нейронҳои қабати навбатӣ интиқол дода мешаванд - ва ғайра, то сигнали охирин. Илова бар ин, раванде мавҷуд аст, ки бо номи тасҳеҳи ҳисобҳои аз ҷониби нейронҳои инфиродӣ иҷрошуда маълум аст, то шабакаи таълим натиҷаи дилхоҳро ба даст орад.
Дар мисоли маъмули марбут ба шинохти тасвири саг, сатҳҳои поёнии AI хусусиятҳои оддиро ба монанди шакл ё ранг таҳлил мекунанд. Дараҷаҳои баландтар бо масъалаҳои мураккабтар ба монанди курку чашмҳо сарукор доранд. Танҳо қабати боло ҳама чизро ба ҳам меорад ва маҷмӯи пурраи иттилоотро ҳамчун саг муайян мекунад.
Ҳамин равишро метавон ба дигар намудҳои вуруд, ки мошинро барои омӯхтани худ қувват мебахшад, татбиқ кардан мумкин аст: садоҳое, ки калимаҳоро дар нутқ, ҳарфҳо ва калимаҳое, ки ҷумлаҳоро дар матни хаттӣ ташкил медиҳанд ё чархи руль, масалан. ҳаракатҳое, ки барои рондани мошин заруранд.
Мошин ҳеҷ чизро аз даст намедиҳад.
Кӯшиш карда мешавад, ки дар чунин системаҳо чӣ воқеа рӯй медиҳад. Дар соли 2015, муҳаққиқон дар Google алгоритми шинохти тасвири амиқро тағир доданд, то ба ҷои дидани объектҳо дар аксҳо, он онҳоро тавлид ё тағир дод. Бо ба ақиб иҷро кардани алгоритм онҳо мехостанд хусусиятҳоеро кашф кунанд, ки барнома барои шинохтани парранда ё бино истифода мебарад.
Ин таҷрибаҳо, ки ба таври оммавӣ ҳамчун унвон маъруфанд, тасвирҳои аҷиби (3) ҳайвонҳои аҷиб, аҷиб, манзараҳо ва қаҳрамонҳоро ба вуҷуд оварданд. Бо ошкор кардани баъзе асрори дарки мошин, аз қабили он, ки намунаҳои муайян такроран ва такрор мешаванд, онҳо инчунин нишон доданд, ки чӣ гуна омӯзиши амиқи мошинсозӣ аз дарки инсон фарқ мекунад - масалан, ба он маъно, ки он артефактҳоро васеъ ва такрор мекунад, ки мо онҳоро нодида мегирем. дар раванди дарки мо бе тафаккур. .
3. Тасвири дар лоиҳа офаридашуда
Бо роҳи, аз тарафи дигар, ин тачрибахо асрори механизмхои когнитивии худи моро кушоданд. Шояд дар дарки мо чунин аст, ки ҷузъҳои мухталифи нофаҳмо вуҷуд доранд, ки моро водор мекунанд, ки чизеро дарҳол фаҳмем ва нодида гирем, дар ҳоле ки мошин такрори худро дар объектҳои «номуҳим» пурсаброна такрор мекунад.
Дигар озмоишҳо ва таҳқиқотҳо барои "фаҳмидани" мошин гузаронида шуданд. Ҷейсон Йосински вай асбоберо офарид, ки мисли зонд дар майна часпида амал карда, ба ҳама гуна нейрони сунъӣ нигаронида шуда, тасвиреро меҷӯяд, ки онро сахттар фаъол мекунад. Дар тацрибаи охирин дар натицаи «духтаронии» сетьдо тасвирдои абстрактй пайдо шуданд, ки процессдои дар система ба амаломадаро боз дам пурасрортар гардонд.
Бо вуҷуди ин, барои бисёре аз олимон, чунин таҳқиқот нофаҳмӣ аст, зеро ба ақидаи онҳо, барои фаҳмидани система, эътироф кардани шаклҳо ва механизмҳои тартиби олии қабули қарорҳои мураккаб, ҳама амалҳои ҳисоббарорӣ дар дохили шабакаи амиқи нейрон. Ин як лабиринти бузурги функсияҳо ва тағирёбандаҳои математикӣ мебошад. Дар айни замон барои мо нофаҳмо аст.
Компютер оғоз намешавад? Чаро?
Чаро фаҳмидани механизмҳои қабули қарорҳои системаҳои пешрафтаи зеҳни сунъӣ муҳим аст? Моделҳои математикӣ аллакай барои муайян кардани он, ки кадом маҳбусон бо шартан шартан озод карда мешаванд, ба кӣ қарз дода мешавад ва ба кӣ ҷои кор гирифта метавонад, истифода мешавад. Хоҳишмандон мехоҳанд бидонанд, ки чаро ин тасмим гирифта шуду на дигар, асос ва механизми он чист.
вай дар моҳи апрели соли 2017 дар Шарҳи MIT Technology иқрор шуд. Томи Яаккола, профессори MIT оид ба замимаҳо барои омӯзиши мошин кор мекунад. -.
Ҳатто мавқеъи ҳуқуқӣ ва сиёсӣ вуҷуд дорад, ки қобилияти тафтиш ва фаҳмидани механизми қабули қарорҳои системаҳои AI як ҳуқуқи бунёдии инсон аст.
Аз соли 2018, Иттиҳоди Аврупо кор мекунад, ки аз ширкатҳо талаб кунад, ки ба мизоҷони худ дар бораи қарорҳои аз ҷониби системаҳои автоматӣ қабулшуда тавзеҳот пешниҳод кунанд. Маълум мешавад, ки ин ҳатто бо системаҳое, ки нисбатан содда ба назар мерасанд, ба мисли барномаҳо ва вебсайтҳое, ки барои нишон додани таблиғ ё тавсияи сурудҳо аз илми амиқ истифода мебаранд, имконнопазир аст.
Компютерҳое, ки ин хадамотро иҷро мекунанд, худашон барномарезӣ мекунанд ва онҳо ин корро бо тарзе анҷом медиҳанд, ки мо намефаҳмем... Ҳатто муҳандисоне, ки ин барномаҳоро эҷод мекунанд, чӣ тавр кор кардани онро пурра шарҳ дода наметавонанд.
