В свете того, что большие языковые модели стали широко распространенными, никого не удивляет, что они способны находить информацию даже в самых отдаленных уголках интернета. И вот исследователи из Южной Кореи пошли дальше и разработали специальный инструмент искусственного интеллекта, DarkBERT, который способен индексировать домены в даркнете, используемые во множестве процессов и схем.
Программа основана на мощной архитектуре RoBERTa, разработанной в 2019 году, которая является одним из ведущих методов обработки естественного языка. Для обучения этой модели ученые собрали обширную базу данных текстов из даркнета, просканировав ее через сеть Tor. После этого они провели фильтрацию повторяющейся и несвязанной с темой информации.
Полученную базу данных использовали для обучения модели RoBERTa LLM, способной обрабатывать тексты из dark web и выделять в них ключевые элементы. Вопреки своему зловещему и опасному внешнему виду, ученые уверены, что DarkBERT будет полезным в борьбе с киберпреступностью.
Для справки, даркнет – это сеть, в которой можно создавать анонимные сайты. Эта сеть скрыта от обычных пользователей и доступна только через специальные анонимизирующие инструменты, такие как Tor. В тёмной сети происходят различные незаконные действия. Обычно ею пользуются преступники, поскольку отследить их действия (от продажи конфиденциальных данных до торговли оружием, людьми, тяжелыми психотропами, фальшивыми документами предоставление хакерских услуг…), как и связи, крайне затруднительно.
RoBERTa, представленный разработчиками Facebook в 2019 году, не является первым инструментом для работы с информацией из даркнета. Он был создан для обнаружения специально скрытых или зашифрованных фрагментов текста, которые могут представлять потенциальную угрозу для пользователей. Ученые уверены, что DarkBERT превосходит все известные предварительно обученные языковые модели.
DarkBERT представляет собой искусственный интеллект, который может быть применен для обнаружения веб-сайтов, торгующих программами-вымогателями или конфиденциальными данными. Он также способен сканировать ежедневно обновляемые “темные” форумы и отслеживать случаи обмена незаконной информацией. Исследования показали, что DarkBERT превосходит другие крупные языковые модели в анализе текстов темной сети. Это может помочь специалистам по кибербезопасности и правоохранительным органам проникнуть глубже в уголки Интернета, где скрываются преступники. Но, нужно понимать, что DarkBERT все еще находится в процессе совершенствования и требует дальнейшего обучения и настройки. Конкретное применение и доступные знания, которые он может предоставить, пока остаются неизвестными.
Возможно в будущем, DarkBERT будет дальше развиваться и станет мощным инструментом для работы с информацией из темной сети. Он будет использоваться для борьбы с киберугрозами и преступной деятельностью в онлайн-среде, помогая выявлять и предотвращать угрозы для пользователей. DarkBERT может играть важную роль в обеспечении кибербезопасности в будущем.