Генеративные модели для молекул

Материал из MachineLearning.

Статья написана с использованием LLM Claude Sonnet 5 и проверена участником Участник:Georgii Kvaratsкheliia 19 июля 2026 Промпт приводится полностью в Обсуждение: Генеративные модели для молекул

Содержание 1 Определение 1.1 Представления молекул 1.2 Формальная постановка задачи 2 Мотивация 3 История 4 Модели и архитектуры 4.1 Языковые модели на основе SMILES 4.2 Вариационные автокодировщики 4.3 Генеративно-состязательные сети 4.4 Обучение с подкреплением 4.5 3D-генерация и эквивариантные диффузионные модели 5 Оптимизация свойств и целенаправленная генерация 6 Оценка качества генеративных моделей 7 Применения 8 Ограничения и практические аспекты 9 См. также 10 Примечания 11 Литература

Генеративные модели для молекул — класс методов машинного обучения, предназначенных для автоматического порождения новых химических структур (малых молекул) с заданными или желательными свойствами. В отличие от классического виртуального скрининга, который выбирает кандидатов из уже существующей, конечной библиотеки соединений, генеративные модели строят молекулы «с нуля», исследуя пространство химических структур напрямую и часто оптимизируя генерацию под конкретную целевую функцию — активность против биологической мишени, растворимость, синтетическую доступность и другие фармакологически значимые характеристики. Область находится на стыке генеративного моделирования, обработки графов и последовательностей и вычислительной химии и является одним из наиболее зрелых практических приложений глубокого обучения в естественных науках.

Определение

Представления молекул

Прежде чем молекулу можно подать на вход нейронной сети, её нужно закодировать в машиночитаемой форме. Исторически первым и по-прежнему широко используемым способом стала запись SMILES (Simplified Molecular Input Line Entry System) — линейная строковая нотация, кодирующая молекулярный граф в виде последовательности символов ASCII[1]. Молекулу также можно представить непосредственно как молекулярный граф — граф, вершины которого суть атомы, а рёбра — химические связи (простые, двойные, тройные, ароматические), — или как облако точек в трёхмерном пространстве, если важна не только связность, но и геометрическая конформация молекулы. Выбор представления во многом определяет архитектуру генеративной модели: строковые представления естественно порождать авторегрессионными языковыми моделями, графовые — специализированными графовыми генеративными моделями, трёхмерные — эквивариантными к пространственным симметриям архитектурами.

Формальная постановка задачи

Пусть — пространство допустимых (химически валидных) молекул. Задача обучения генеративной модели состоит в том, чтобы по обучающей выборке молекул из некоторого известного распределения приблизить это распределение моделью , , с параметрами , из которой затем можно сэмплировать новые, не встречавшиеся в обучающей выборке структуры. Для целенаправленной (goal-directed) генерации задача усложняется до поиска молекул, максимизирующих некоторый предсказанный показатель качества (например, аффинность связывания или проникающую способность):

что в общем случае невозможно решить прямым перебором из-за астрономического размера (см. раздел «Мотивация»).

Мотивация

• Размер химического пространства. Число потенциально синтезируемых низкомолекулярных лекарствоподобных соединений оценивается величинами порядка – в зависимости от использованных допущений[2]; одна из наиболее цитируемых оценок, основанная на комбинаторном анализе базы данных GDB-17, даёт для молекул с числом тяжёлых атомов, ограниченным правилами Липински[2]. Для сравнения, крупнейшие каталоги реально синтезированных и протестированных соединений содержат порядка – структур — исчезающе малую долю этого пространства.
• Ограничения виртуального скрининга. Классический подход — перебор (скрининг) готовой библиотеки кандидатов — по определению не может предложить структуру, которой в библиотеке никогда не было; он ищет лучшее среди уже известного, а не создаёт принципиально новое.
• Обратный дизайн (inverse design). Генеративные модели переворачивают традиционный процесс «структура → предсказание свойства» в направлении «желаемое свойство → структура», что соответствует практической задаче медицинской химии — не оценить готовое соединение, а предложить его.
• Ускорение цикла разработки. Совмещение генерации с предсказанием свойств и активным обучением позволяет на порядки сократить число молекул, которые нужно синтезировать и протестировать экспериментально, прежде чем найти перспективного кандидата.

История

Основой для большинства последующих подходов послужила разработанная Вайнингером в 1988 году нотация SMILES, впервые давшая компактное и машиночитаемое строковое представление произвольной молекулярной структуры[1]. Прорывом, показавшим применимость современных глубоких генеративных моделей к химии, стала работа Сеглера, Когея, Тырчана и Уоллера 2018 года: рекуррентная нейронная сеть, обученная на миллионах SMILES-строк как обычная языковая модель, оказалась способна порождать новые химически валидные и «на вид похожие на лекарства» структуры, а её дообучение на малой выборке активных против конкретной мишени соединений позволяло смещать генерацию в сторону этой мишени[3]. В том же году Гомес-Бомбарелли с соавторами предложили обучать вариационный автокодировщик (VAE) на SMILES-строках, получая непрерывное латентное представление молекул, в котором операции интерполяции и градиентной оптимизации становятся осмысленными — молекулу впервые можно было «редактировать», двигаясь в направлении желаемого свойства в латентном пространстве[4]. Кузнер, Пейдж и Эрнандес-Лобато годом раньше показали, что встраивание грамматики SMILES непосредственно в архитектуру VAE (Grammar VAE) заметно повышает долю синтаксически корректных сгенерированных строк по сравнению с обучением на «сырых» символьных последовательностях[5].

Стремление обойти хрупкость строкового представления (небольшое изменение одного символа SMILES может сделать строку невалидной или полностью изменить структуру) привело к переходу на генерацию непосредственно молекулярных графов. Джин, Барзилай и Яакола предложили в 2018 году VAE на основе древовидной декомпозиции графа (Junction Tree VAE), гарантирующий химическую валидность результата за счёт сборки молекулы из целых допустимых фрагментов, а не по одному атому[6]. Параллельно развивались состязательные подходы: Де Као и Кипф (2018) предложили MolGAN — генеративно-состязательную сеть, напрямую порождающую небольшие молекулярные графы[7]. Отдельное направление составили методы на основе обучения с подкреплением, явно оптимизирующие генерацию под целевую награду: Оливекруна с соавторами (REINVENT, 2017) объединили предобученную SMILES-языковую модель с политическим градиентом[8], Попова, Исаев и Тропша (2018) применили глубокое обучение с подкреплением к направленному дизайну молекул с заданными свойствами[9], а Ю, Лю, Ин, Панде и Лесковец (2018) предложили Graph Convolutional Policy Network (GCPN) — генерацию графа обучением с подкреплением с явным учётом химических правил валентности[10].

Наиболее свежее направление — генерация не только двумерного графа связности, но и полной трёхмерной геометрии молекулы, необходимой, например, для непосредственного расчёта взаимодействия с белком-мишенью. Хогебоум, Гарсия Саторрас, Виньяк и Веллинг (2022) предложили эквивариантную к евклидовым преобразованиям диффузионную модель (Equivariant Diffusion Model, EDM), одновременно порождающую типы атомов и их трёхмерные координаты[11]. Для сопоставимой оценки прогресса области были предложены стандартизированные наборы метрик и эталонных задач — MOSES[12] и GuacaMol[13], ставшие стандартом отчётности при публикации новых генеративных моделей для молекул.

Модели и архитектуры

Языковые модели на основе SMILES

Поскольку SMILES — это последовательность символов, для её генерации напрямую применимы архитектуры, разработанные для обработки естественного языка: рекуррентные сети (LSTM/GRU) или трансформеры обучаются авторегрессионно предсказывать следующий символ строки по предыдущим, после чего сэмплирование из обученной модели посимвольно порождает новые SMILES-строки[3]. Простота и масштабируемость такого подхода делают его по-прежнему широко используемой базовой линией, несмотря на упомянутую хрупкость строкового представления.

Вариационные автокодировщики

VAE обучает пару кодировщик — декодировщик так, чтобы максимизировать нижнюю вариационную границу правдоподобия данных:

где — непрерывный латентный вектор, — кодировщик, — декодировщик, а второе слагаемое регуляризует латентное распределение к простому априорному (обычно гауссовскому) виду[4]. Именно эта структура делает латентное пространство пригодным для последующей непрерывной оптимизации свойств. Grammar VAE модифицирует декодировщик так, чтобы он порождал не произвольные символы, а последовательности применения правил контекстно-свободной грамматики SMILES, что резко повышает синтаксическую валидность результата[5]; Junction Tree VAE идёт ещё дальше, работая на уровне графовых фрагментов и гарантируя химическую состоятельность по построению[6].

Генеративно-состязательные сети

По аналогии с классической постановкой генеративно-состязательной сети[14]:

MolGAN обучает генератор , напрямую порождающий представление молекулярного графа (матрицы смежности и типов атомов), и дискриминатор , отличающий сгенерированные графы от настоящих молекул, дополняя стандартную состязательную схему сигналом обучения с подкреплением для явной оптимизации химических свойств[7].

Обучение с подкреплением

При постановке генерации как последовательности действий (добавление атома, связи или применение правила грамматики) генеративную модель можно рассматривать как политику , обучаемую максимизировать ожидаемую награду за траекторию генерации:

где награда комбинирует предсказанные фармакологические свойства итоговой молекулы, штраф за нарушение валентных правил и, часто, сигнал состязательного дискриминатора[8][9][10]. Такая постановка позволяет напрямую оптимизировать негладкие, недифференцируемые критерии (например, вывод стороннего предсказателя активности), для которых градиентная оптимизация в духе VAE неприменима без дополнительных приближений.

3D-генерация и эквивариантные диффузионные модели

Для задач, где важна не только связность атомов, но и их пространственное расположение (докинг, генерация конформаций, дизайн молекул внутри кармана связывания белка), применяют диффузионные модели, работающие непосредственно с трёхмерными координатами атомов. Прямой диффузионный процесс постепенно зашумляет координаты гауссовым шумом,

а обратный процесс, параметризованный нейронной сетью, обучается его отменять — порождая молекулу из чистого шума за серию шагов денойзинга. Ключевая деталь для химии — сеть, реализующая денойзинг, должна быть эквивариантна относительно вращений и трансляций молекулы в пространстве: физические свойства молекулы не зависят от того, как она ориентирована в лабораторной системе координат. Модель EDM Хогебоума и соавторов реализует именно такую эквивариантную архитектуру и одновременно предсказывает типы атомов (категориальный признак) и их координаты (непрерывный признак) в общем диффузионном процессе[11].

Оптимизация свойств и целенаправленная генерация

При наличии непрерывного латентного пространства (как в VAE) целенаправленный дизайн можно свести к байесовской оптимизации в этом пространстве: обучается суррогатная модель, предсказывающая целевое свойство по латентному вектору, после чего стандартные методы байесовской оптимизации предлагают следующие точки для оценки, а результат декодируется обратно в молекулу[4]. Альтернативный путь — прямая настройка генеративной модели через обучение с подкреплением или дообучение (fine-tuning) на подвыборке молекул с желаемыми свойствами, как в подходе REINVENT[8]. Оба пути имеют общий недостаток: они полагаются на точность предсказателя свойств , который сам по себе — приближённая модель, обученная на ограниченных экспериментальных данных, и может давать завышенные оценки для молекул, далёких от области, где он был откалиброван.

Оценка качества генеративных моделей

Поскольку правильность сгенерированной молекулы — не бинарный, а многогранный вопрос, сравнение генеративных моделей опирается на набор взаимодополняющих метрик: валидность (доля сгенерированных структур, представляющих химически корректные молекулы), уникальность (доля неповторяющихся структур среди сгенерированных), новизна (доля структур, отсутствующих в обучающей выборке), степень «похожести на лекарство» (количественная оценка лекарствоподобия, QED) и оценка синтетической доступности (SA score). Наборы MOSES[12] и GuacaMol[13] стандартизировали вычисление этих метрик на общих обучающих выборках, что сделало результаты разных статей сопоставимыми и сместило часть публикаций от «просто ещё одной архитектуры» к содержательному анализу компромиссов между валидностью, разнообразием и оптимизируемостью.

Применения

• De novo дизайн лекарств. Основная область применения — предложение новых химических каркасов (scaffolds), потенциально активных против заданной биологической мишени, на этапе поиска лидерных соединений.
• Оптимизация лидерных соединений. Целенаправленная генерация используется не только для создания структур «с нуля», но и для локальной модификации уже известного активного соединения с целью улучшения отдельных свойств (растворимости, метаболической стабильности) при сохранении активности.
• Дизайн материалов. Те же принципы генеративного моделирования переносятся за пределы фармакологии — на поиск новых органических полупроводников, катализаторов и других функциональных материалов, где пространство возможных структур также астрономически велико.

Ограничения и практические аспекты

• Разрыв синтезируемости. Значительная доля молекул, формально проходящих проверку валидности и получающих привлекательные предсказанные свойства, на практике оказывается сложно- или вовсе несинтезируемой; оценка синтетической доступности (SA score) — лишь грубое приближение к реальной сложности синтеза, и это остаётся одним из главных практических барьеров области.
• Хрупкость строковых представлений. Небольшое искажение SMILES-строки может либо сделать её полностью невалидной, либо неожиданно радикально изменить структуру молекулы — асимметрия между «похожестью строк» и «похожестью молекул», мотивирующая переход к графовым и трёхмерным представлениям.
• Надёжность предсказателя свойств. Целенаправленная генерация настолько хороша, насколько хорош предсказатель , используемый как награда или целевая функция; генеративная модель может научиться «эксплуатировать» слабости предсказателя, порождая структуры, которые получают завышенную оценку, но не обладают реальной активностью.
• Ограниченность и смещённость обучающих данных. Известные базы данных активных соединений сильно смещены в сторону уже исследованных химических классов, что ограничивает способность модели предлагать структурно принципиально новые каркасы, а не вариации на тему обучающей выборки.
• Метрики бенчмарков не гарантируют экспериментальный успех. Высокие показатели валидности, новизны и предсказанной активности на бенчмарках вроде MOSES и GuacaMol — необходимое, но не достаточное условие реальной пригодности соединения; окончательная проверка требует дорогостоящего экспериментального синтеза и тестирования.

См. также

• Генеративная состязательная сеть
• Вариационный автоэнкодер
• Диффузионная модель
• Графовая нейронная сеть
• Методы обучения с подкреплением
• Тензорное разложение
• Компьютерное зрение

Примечания

1. Weininger D. SMILES, a chemical language and information system. 1. Introduction to methodology and encoding rules // Journal of Chemical Information and Computer Sciences. — 1988. — Т. 28, № 1. — С. 31–36.
2. Polishchuk P. G., Madzhidov T. I., Varnek A. Estimation of the size of drug-like chemical space based on GDB-17 data // Journal of Computer-Aided Molecular Design. — 2013. — Т. 27, № 8. — С. 675–679.
3. Segler M. H. S., Kogej T., Tyrchan C., Waller M. P. Generating Focused Molecule Libraries for Drug Discovery with Recurrent Neural Networks // ACS Central Science. — 2018. — Т. 4, № 1. — С. 120–131.
4. Gómez-Bombarelli R., Wei J. N., Duvenaud D., Hernández-Lobato J. M., Sánchez-Lengeling B., Sheberla D., Aguilera-Iparraguirre J., Hirzel T. D., Adams R. P., Aspuru-Guzik A. Automatic Chemical Design Using a Data-Driven Continuous Representation of Molecules // ACS Central Science. — 2018. — Т. 4, № 2. — С. 268–276.
5. Kusner M. J., Paige B., Hernández-Lobato J. M. Grammar Variational Autoencoder // Proceedings of the 34th International Conference on Machine Learning (ICML). — 2017. — С. 1945–1954.
6. Jin W., Barzilay R., Jaakkola T. Junction Tree Variational Autoencoder for Molecular Graph Generation // Proceedings of the 35th International Conference on Machine Learning (ICML). — 2018. — С. 2323–2332.
7. De Cao N., Kipf T. MolGAN: An Implicit Generative Model for Small Molecular Graphs // arXiv:1805.11973. — 2018.
8. Olivecrona M., Blaschke T., Engkvist O., Chen H. Molecular De-Novo Design through Deep Reinforcement Learning // Journal of Cheminformatics. — 2017. — Т. 9. — Статья 48.
9. Popova M., Isayev O., Tropsha A. Deep reinforcement learning for de novo drug design // Science Advances. — 2018. — Т. 4, № 7. — eaap7885.
10. You J., Liu B., Ying R., Pande V., Leskovec J. Graph Convolutional Policy Network for Goal-Directed Molecular Graph Generation // Advances in Neural Information Processing Systems 31 (NeurIPS). — 2018. — С. 6410–6421.
11. Hoogeboom E., Garcia Satorras V., Vignac C., Welling M. Equivariant Diffusion for Molecule Generation in 3D // Proceedings of the 39th International Conference on Machine Learning (ICML). — 2022.
12. Polykovskiy D., Zhebrak A., Sanchez-Lengeling B., Golovanov S., Tatanov O., Belyaev S., Kurbanov R., Artamonov A., Aladinskiy V., Veselov M. et al. Molecular Sets (MOSES): A Benchmarking Platform for Molecular Generation Models // Frontiers in Pharmacology. — 2020. — Т. 11. — Статья 565644.
13. Brown N., Fiscato M., Segler M. H. S., Vaucher A. C. GuacaMol: Benchmarking Models for de Novo Molecular Design // Journal of Chemical Information and Modeling. — 2019. — Т. 59, № 3. — С. 1096–1108.
14. Goodfellow I., Pouget-Abadie J., Mirza M., Xu B., Warde-Farley D., Ozair S., Courville A., Bengio Y. Generative Adversarial Nets // Advances in Neural Information Processing Systems 27 (NIPS). — 2014. — С. 2672–2680.

Литература

• Polishchuk P. G., Madzhidov T. I., Varnek A. Estimation of the size of drug-like chemical space based on GDB-17 data // Journal of Computer-Aided Molecular Design. — 2013. — Т. 27, № 8. — С. 675–679.
• Gómez-Bombarelli R. et al. Automatic Chemical Design Using a Data-Driven Continuous Representation of Molecules // ACS Central Science. — 2018. — Т. 4, № 2. — С. 268–276.
• Segler M. H. S., Kogej T., Tyrchan C., Waller M. P. Generating Focused Molecule Libraries for Drug Discovery with Recurrent Neural Networks // ACS Central Science. — 2018. — Т. 4, № 1. — С. 120–131.
• Jin W., Barzilay R., Jaakkola T. Junction Tree Variational Autoencoder for Molecular Graph Generation // ICML. — 2018. — С. 2323–2332.
• Hoogeboom E., Garcia Satorras V., Vignac C., Welling M. Equivariant Diffusion for Molecule Generation in 3D // ICML. — 2022.
• Polykovskiy D. et al. Molecular Sets (MOSES): A Benchmarking Platform for Molecular Generation Models // Frontiers in Pharmacology. — 2020. — Т. 11.
• Brown N., Fiscato M., Segler M. H. S., Vaucher A. C. GuacaMol: Benchmarking Models for de Novo Molecular Design // Journal of Chemical Information and Modeling. — 2019. — Т. 59, № 3. — С. 1096–1108.