Уложив именинника на сон, я села за стол и достала из него файлик с развернутым докладом-справкой, которую когда-то готовил Илья - даже раньше специалистов Center for AI Safety. А начиналось все с любопытства и опасений, с урока, где Наина объясняла какой вред личности ребенка наносят компьютерные игры, насколько они меняют его восприятие мира и реальности.
То есть угрозу несло уже само наличие чего-то в нейросетях - не только злоумышленники... Структуры, занимающихся кибербезопасностью и созданы «против них». И работают над способами и средствами контроля гос. инфобеза и кибербезопасности на уровне отдельных потребителей. Эти угрозы не нужно доказывать, они как бы и уже... наносят колоссальный ущерб, связанный с утечкой разнообразных данных.
Но! Вот на Западе есть соответствующие некоммерческие организации, а существует ли у нас серьезная гос. структура, занимающаяся потенциальными рисками в связи с новейшими разработками в сфере искусственного интеллекта? Мы считали, что должна быть, хотя и не все согласны, что опасность может исходить не только от киберпреступников, но и от самого ИИ. А основная масса людей вообще воспринимает искусственный интеллект как что-то, придуманное исключительно для облегчения их быта. Если бы!
Опасность существует. Эксперты CAIS открыто бьют тревогу, 29 государств обнародовали протест против форсированного развития самообучающихся и адаптивных алгоритмов ИИ… Но мир живет по законам жесткой конкуренции и приостанавливать обучение высокоинтеллектуальных систем и ограничивать работу нейросети никто не собирается.
А тем временем роботы создали свой язык общения, которого люди не понимают. Да - спохватились, отключили и подтерли, где смогли… но где гарантии на будущее? Если они уже умеют импровизировать, научились блефовать и лгать. Люди заигрались в боты и в результате даже в шахматы им безнадежно продули, а могут и совсем доиграться. И, как обычно, шевеление начнется, когда жареный петух уже клюнет. У нас с Ильей были и на этот счет идеи, а одна из них так и вовсе... мягко говоря, незаконна и наказуема.
Но может, как говорил Филлип - не пришло еще их время? А чтобы иметь защиту и возможность заниматься настолько грандиозными разработками, нужно обеспечить себе такую возможность. Как минимум, заявив о себе успешным стартапом или масштабной инновационкой в IT-сфере. Да и серьезные деньги заработать можно только в серьезной структуре, но идти туда нужно с чем-то и нужным, как воздух.