Перейти к содержимому






Фотография
* * * * * 2 голосов

Разрешение зависимостей в пакетном менеджере с версиями

Написано Fingercomp , в Пакетные менеджеры, Tutorials 23 Октябрь 2016 · 602 просмотров

programming algorithms package dependency resolve
Разрешение зависимостей в пакетном менеджере с версиями

В прошлой части:

Вы-то прогу скопировать/разархировать и сами можете, вот только если программа зависит от другой, а та — от двух других, и т. д., вам это надоест. Людям надоело. Создали пакетные менеджеры.

 

 

Итак, давайте сделаем программу для установки пакетов. Очевидно, что просто так в рандомном порядке пакеты поставить нельзя: нам надо сначала брать пакеты без неразрешённых зависимостей и подниматься вверх.

 

 

Итак, у нас есть простая функция, которая составляет список пакетов для последовательной установки без ломаний....

...Но время шло, и появилось такое явление как версии. Вот о них мы сегодня и побеседуем.

 

Зачем нужны версии? Нуууу, наверное, чтобы отмечать разные варианты кода.
Зачем ПМ нужны версии? Хм, чтобы быть уверенным, что при установке пакета, зависимости будут именно такие, которые были при написании кода.

 

Ну, то есть. Вчера у нас была одна функция сделатьХорошо() и попала в релиз 1.0.0, а сегодня она переименована в сделатьПлохо(), сменили код этой функции, да ещё впридачу накинули ничегоНеСделать(). Всё это в релизе 2.0.0. Но если новый код будет использовать ничегоНеСделать(), то его версия 1.0.0 не устроит — там ведь функции нет. А если нужно будет сделатьХорошо(), то в версии 2.0.0 её уже не будет.

 

Люди — существа чертовски изобретательные, так что форматы версий у нас тоже всяко-разно изобретательны. Начиная от даты релиза (20161023) и номером билда (1243, она ещё ревизией зовётся), заканчивая полноценным семантическим версионированием. Первые потуги нас интересовать будут не сильно, а вот про SemVer можно поговорить.

 

Спецификация SemVer прямо говорит: версия задаётся тремя числами, разделённые точкой. Первое число — мажорная версия, увеличивается, когда происходят "ломающие" изменения типа удаления старых функций, второе — минорная версия, которая на новых фичах обычно увеличивается, а третье — патчи, это всякие багфиксы.

 

Вот сферическая версия в вакууме: 1.2.3.

 

На самом деле, в описании semver задано несколько правил, например, место пререлиза (например, 1.2.3-dev), метаданных (например, 1.2.3+build-15+20161023+amd64), ну и т.д. Если интересно — можете почитать, ссылочка в конце.

 

Так вот, здесь попробуем организовать разрешение зависимостей с версиями. Не будем брать пока очень мудрёную систему конфликтов.

 

Начнём с манифеста. Дополним его указанием версий:

{ "name": "pkg1"
, "versions":
  [ { "number": "1.0.0"
    , "files":
      [ { "url": "http://example.com/pkg1/1.0.0/file1", "path": "/opt/pkg1/file1" }
      , { "url": "http://example.com/pkg1/1.0.0file2", "path": "/opt/pkg1/file2" }
      ]
    , "depends":
      [ { "name": "pkg11", "version": "^1" }
      , { "name": "pkg12", "version": "1.6.2" }
      ]
    }
  ]
}
Ну и по аналогии с другими пакетами. Вот такое чудо у нас должно получиться.

Изображение

 

Напомню, чем у нас закончилась прошлая часть:

def resolveDeps(name, resolved=None, unresolved=None):
  resolved = resolved or []
  unresolved = unresolved or []
  if name in unresolved:
    raise ValueError("circular dependencies detected")
  if name in resolved:
    return resolved
  unresolved.append(name)
  if not isInstalled(name):
    manifest = getManifest(name)
    for dep in manifest["deps"]:
      resolveDeps(dep, resolved, unresolved)
    resolved.append(name)
  del unresolved[unresoved.index(name)]
  return resolved
Давайте перепишем эту функцию так, чтобы она работала после наших изменений в манифесты:
def resolveDeps(name, resolved=None, unresolved=None):
  resolved = resolved or []
  unresolved = unresolved or []
  if name in unresolved:
    raise ValueError("circular dependencies detected")
  if name in resolved:
    return resolved
  unresolved.append(name)
  if not isInstalled(name):
    manifest = getManifest(name)
    version, data = getLatestVersion(manifest)  # получаем последнюю версию
    for dep in latest["deps"]:
      resolveDeps(dep["name"], resolved, unresolved)
    resolved.append({"name": name, "version": version)
  del unresolved[unresoved.index(name)]
  return resolved
Всё хорошо и замечательно, вот только толку от того, что мы ввели версии, как-то нет совсем.

 

А вот далее нам потребуется очень серьёзная либа-парсер семверов. На Python есть semantic_version, которую я ещё портировал на MoonScript — очень доволен. Но это так, будем пока плавать на более высоком уровне абстракции.

 

Итак, версии. Тот самый граф, ещё раз:

Изображение

 

Около стрелочек висят какие-то штуки, ^1, например. Эти штуки, которые мы ещё вписываем в манифесты пакетов, ограничивают варианты версий пакетов, которые можно поставить. ^1 говорит, что можно брать любую версию не менее 1.0.0 и не более следующего мажорного релиза (2.0.0). * говорит, что пофигу абсолютно, какая версия встанет. А точное указание версии, как, например, в случае с 1.6.2, не даёт установиться какой-либо другой версии.

 

Ну а так как они ограничивают, то и называются они ограничениями (или constriants). Пакетный менеджер — скажем так, классическая задача о соблюдении ограничений. Отнюдь не простая.

 

Раз есть версии, есть ограничения, нужно эти ограничения, значит, включить в функцию разрешателя. Например, дополнительным аргументом. Давайте так и поступим:

def resolveDeps(name, vconstraint="*" resolved=None, unresolved=None):
  resolved = resolved or []
  unresolved = unresolved or []
  if name in unresolved:
    raise ValueError("circular dependencies detected")
  if name in resolved:
    return resolved
  unresolved.append(name)
  # Создаём объект ограничения из строки
  vconstraint = createSemVerConstraint(vconstraint)
  if not isInstalled(name):
    manifest = getManifest(name)
    version, data = vconstraint.match(manifest)  # получаем версию, соответствующую ограничению
    for dep in data["deps"]:
      resolveDeps(dep["name"], dep["version"], resolved, unresolved)  # и не забываем передавать версию требуемую
    resolved.append({"name": name, "version": version)
  del unresolved[unresoved.index(name)]
  return resolved
При запуске resolveDeps("pkg1") мы теперь получим
[ { "name": "pkg1-1-1"
  , "version": "1.0.1"
  }
, { "name": "pkg1-1"
  , "version": "1.2.4"
  }
, { "name": "pkg1-2"
  , "version": "1.6.2"
  }
, { "name": "pkg1"
  , "version": "1.2.3"
  }
]
Вот как это на графе будет:

Изображение

 

Давайте теперь приспособим функцию install к установке:

def install(name):
  depList = resolveDeps(name)
  for pkg in depList:
    manifest = getManifest(pkg["name"])
    data = getVersion(manifest, pkg["version"])
    for file in data["files"]:
      download(file["url"], file["path"]
В общем-то, это всё. У нас есть вполне рабочая функция установки пакетов с учётом версии по Semantic Versioning. Однако у неё есть некоторые проблемы.

 

Ну, во-первых, мы ошибочно считаем, что если пакет установлен, то у него нужная версия. Если у нас уже будет пакет версии 1.12.53, а мы потребуем ^2, то новая версия не поставится. Рискуем попасть на глюки, баги. Кажется, надо просто обновить пакет!..

 

Но при таком решении невозможно организовать обновление пакетов.
Вообще. Никак. А почему?

 

У нас зависимости задаются в версиях. Каждая версия может сменить зависимости. При этом каждая новая версия может не соблюдать ограничения, которые дают зависимые от данного пакеты.

 

А вот вам адская ситуация:

Изображение

Так вот, чтобы обновить выделенный пакет без нарушения всех зависимостей, потребовалось разрешать конфликты версий. Это достаточно сложный алгоритм, и о нём мы поговорим как-нибудь потом. Тем более, мне только предстоит ввести в свой ПМ резолвер конфликтов.

 

А пока можете почитать спецификацию SemVer.

 

Изображение.



  • Totoro, LeshaInc, Saintmare и еще 1 это нравится



Какая-то сложная жесть.

Короче - Фингер опять норкоманит.

|

Уууу... СЛОЖНА И НИПАНЯТНА!

Лучше бы вообще не читал, чем оставлял идиотские комменты пятилетнего ребёнка.

    • Saintmare это нравится

Классно оформлено, текст интересно читать, респект с:

Теперь буду знать немнооожко больше.


Обратные ссылки на эту запись [ URL обратной ссылки ]

Обратных ссылок на эту запись нет

Последние версии

Стабильная: 1.6.2
Последняя: 1.6.2

Искать в моем блоге

Новые записи

Новые комментарии

Март 2017

В П В С Ч П С
   1234
567891011
12131415161718
19202122232425
262728 29 3031 

Полезные ссылки

Официальный сайт OpenComputers

http://oc.cil.li/

 

Официальный форум OpenComputers

http://oc.cil.li/index.php?/index

 

Репозиторий OpenComputers на ГитХабе

https://github.com/M...s/OpenComputers

 

Последние релизы OpenComputers

https://github.com/M...puters/releases

 

Jenkins-сервер

http://ci.cil.li/job...s-dev-MC1.7.10/
 

Репозиторий OpenPrograms

https://github.com/OpenPrograms

 

Репозиторий моих программ

https://github.com/O...rcomp-Programs/

1 посетителей

0 пользователей, 1 гостей, 0 анонимных

Последние посетители

  • Фотография
    ZloyApelsihchik
    Вчера, 20:43
  • Фотография
    electronic_steve
    Вчера, 16:46
  • Фотография
    Laine_prikol
    Вчера, 16:18
  • Фотография
    Kid
    27 мар 2017 - 23:50
  • Фотография
    MeXaN1cK
    27 мар 2017 - 21:08
  • Фотография
    Nymda
    27 мар 2017 - 20:48
  • Фотография
    Andronio
    27 мар 2017 - 17:59
  • Фотография
    MineUbuntu
    27 мар 2017 - 17:15
  • Фотография
    Krutoy
    27 мар 2017 - 16:45
  • Фотография
    danshat
    27 мар 2017 - 12:03
  • Фотография
    Vait
    26 мар 2017 - 10:48
  • Фотография
    krovyaka
    25 мар 2017 - 15:07
  • Фотография
    jammer312
    25 мар 2017 - 12:31
  • Фотография
    LeshaInc
    24 мар 2017 - 17:56
  • Фотография
    Saintmare
    24 мар 2017 - 15:40
  • Фотография
    Sharplook
    24 мар 2017 - 09:30
  • Фотография
    eu_tomat
    23 мар 2017 - 22:15
  • Фотография
    Orlin
    23 мар 2017 - 13:07
  • Фотография
    bob558
    22 мар 2017 - 13:54
  • Фотография
    Totoro
    22 мар 2017 - 09:54
  • Фотография
    Trojan4ik
    21 мар 2017 - 14:24
  • Фотография
    Ex161
    20 мар 2017 - 23:29
  • Фотография
    vladgov
    20 мар 2017 - 16:07
  • Фотография
    lokin135
    20 мар 2017 - 11:59
  • Фотография
    Zer0Galaxy
    19 мар 2017 - 21:59
  • Фотография
    qwertyMAN
    19 мар 2017 - 19:04
  • Фотография
    _Star_Craft_
    19 мар 2017 - 18:10
  • Фотография
    Kusiyaki
    19 мар 2017 - 17:59
  • Фотография
    Doob
    19 мар 2017 - 17:55
  • Фотография
    BlakeyRose
    19 мар 2017 - 15:25
  • Фотография
    folder
    18 мар 2017 - 17:13
  • Фотография
    HeroBrine1st
    17 мар 2017 - 22:24
  • Фотография
    ProShow
    17 мар 2017 - 16:41
  • Фотография
    NEO
    17 мар 2017 - 15:56
  • Фотография
    FluttyProger
    17 мар 2017 - 15:40
  • Фотография
    Aex
    17 мар 2017 - 10:03
  • Фотография
    Asior
    15 мар 2017 - 18:32
  • Фотография
    i_ivanov10
    14 мар 2017 - 18:06
  • Фотография
    ivan52945
    14 мар 2017 - 15:10
  • Фотография
    Seryoga
    12 мар 2017 - 14:35
  • Фотография
    Santrope
    11 мар 2017 - 15:23
  • Фотография
    POMAH3
    09 мар 2017 - 14:33
  • Фотография
    GROZGRI
    08 мар 2017 - 20:56
  • Фотография
    Arseniy10
    08 мар 2017 - 20:27
  • Фотография
    MrSnake20_15
    08 мар 2017 - 18:55
  • Фотография
    serafim
    08 мар 2017 - 02:03
  • Фотография
    Ingr
    06 мар 2017 - 19:29
  • Фотография
    Samori
    06 мар 2017 - 17:04
  • Фотография
    Dilbert
    06 мар 2017 - 01:24
  • Фотография
    EddyDaarkShadow
    05 мар 2017 - 10:47

Лицензия


Яндекс.Метрика