Марьям Гаджи-Исмайылова: ЕС стремится сформировать безопасную экосистему искусственного интеллекта

Инновации должны строиться на основе безопасности, а Европейский союз (ЕС) стремится сформировать безопасную, устойчивую и человекоцентричную экосистему искусственного интеллекта.

Об этом заявила сотрудник по международной помощи и сотрудничеству Представительства Евросоюза в Азербайджане Марьям Гаджи-Исмайылова на VIII Саммите IT-руководителей государственных структур.

По ее словам, ЕС уделяет особое внимание формированию глобальных стандартов в сфере ИИ и практическому применению принципов безопасности.

Она рассказала о плане действий Евросоюза по кибербезопасности и искусственному интеллекту.

«План, основанный на существующей правовой базе ЕС, предусматривает скоординированный подход, который позволяет государствам-членам, предприятиям и государственным учреждениям не только использовать возможности искусственного интеллекта, но и справляться с новыми рисками, которые он создает», - пояснила М. Гаджи-Исмайылова.

Представитель Евросоюза выделила три основные цели плана: стимулирование безопасного и ответственного использования передового искусственного интеллекта, укрепление кибербезопасности и устойчивости ЕС, а также расширение возможностей Европы в сфере кибербезопасности за счет использования собственного ИИ.

Говоря о первой цели, она отметила, что по мере развития возможностей передовых моделей ИИ все большее значение приобретает оценка их безопасности: «Одна и та же технология может помочь выявить уязвимости в программном обеспечении и создать риски злоупотребления с точки зрения кибербезопасности».

М. Гаджи-Исмайылова также сообщила, что новая модель искусственного интеллекта, способная анализировать сложное программное обеспечение и выявлять потенциальные уязвимости, может помочь специалистам по безопасности быстрее обнаруживать и устранять проблемы. Вместе с тем необходимо оценивать возможности таких моделей и потенциальные сценарии их злоупотребления.

«Именно поэтому передовые системы должны проходить проверки на безопасность, а управление рисками и стимулирование ответственного использования приобретают первостепенное значение», - подчеркнула представитель ЕС.

Касаясь второй цели плана, она отметила, что ИИ может способствовать укреплению кибербезопасности и устойчивости Евросоюза, помогая организациям быстрее обнаруживать угрозы, эффективнее определять приоритетность уязвимостей и результативнее реагировать на инциденты.

В качестве примера М. Гаджи-Исмайылова привела ситуацию, когда в информационной системе государственного органа фиксируются несанкционированные входы вне обычных рабочих часов, передача подозрительной информации или многочисленные неуспешные попытки входа.

По ее словам, искусственный интеллект может проанализировать такие события и предупредить специалистов по кибербезопасности. После этого эксперты могут проверить предупреждение и принять необходимые меры, что позволяет выявить потенциальный инцидент на более ранней стадии.

Третьим направлением представитель ЕС назвала расширение возможностей Европы в сфере кибербезопасности за счет собственных технологий искусственного интеллекта: «Европа создает более устойчивую экосистему в сфере кибербезопасности, укрепляя свои исследовательские, технологические и промышленные возможности».

Она подчеркнула, что совместная работа университетов, стартапов и компаний в сфере кибербезопасности позволяет быстрее выявлять вредоносные программы, анализировать инциденты и разрабатывать решения, которые помогают организациям определять приоритетные меры защиты.

Мелек Новрузова