Некоторые ученые, в частности Демис Хассабис, молодой нейробиолог и один из основателей DeepMind, даже поверили в то, что им со временем удастся создать такую машину, которая будет способна делать все, что может делать человеческий мозг, только лучше, и это позволит осуществить ту самую мечту, которая вдохновляла первопроходцев компьютерной эры. Никто не может сказать, когда такая машина появится. Но даже в обозримой перспективе распространение «умных» – хоть еще и далеких от настоящего интеллекта – машин будет иметь колоссальные социальные последствия. Эти могущественные технологии всегда пленяли и пугали людей, и человечество время от времени пыталось играть с ними. На этот раз ставки настолько высоки, что даже самые выдающиеся умы не представляют, куда это может нас завести. Развитие методики глубокого обучения знаменовало фундаментальные изменения в самом построении цифровых технологий. Вместо того чтобы тщательно предопределять, как должна вести себя машина – правило за правилом, команда за командой, – инженеры приступили к созданию машин, которые учатся решать задачи на своем собственном опыте, и этот опыт охватывает совершенно колоссальные массивы цифровой информации, которые неспособна уместить в себе никакая человеческая голова. В результате возникнет новая порода машин, которые будут не только более могущественными, чем все предыдущие, но также более таинственными и непредсказуемыми.
Когда эта технология обучения только начинала распространяться в интернете, никто еще толком не сознавал, что обучающиеся машины впитывают в себя также и все предрассудки своих создателей. Ученые, первоначально занимавшиеся их созданием, – это по преимуществу белые мужчины, и все нюансы проблематики они оказались способны уловить только тогда, когда им на них указали представители нового поколения исследователей, включающего в себя женщин и небелых. По мере того, как эта технология продвигается все дальше и глубже – в системы здравоохранения, государственной безопасности и в вооруженные силы, – этот перекос может иметь серьезные последствия. Технология глубокого обучения обладает внутренней силой, которую до конца не способны контролировать даже сами разработчики этой технологии, особенно когда эта сила попадает в руки компаний-гигантов, движимых ненасытным стремлением к прибыли.