using Microsoft.EntityFrameworkCore; using Microsoft.Extensions.Logging; using Newtonsoft.Json.Linq; using PARR.AIHITMainSyncer.Settings; using PARR.Core.Common.Interfaces; using PARR.DAL.Models.Unit; using PARR.DAL.Services.Interfaces.Unit; using PARR.Domain.Common.Rabbit.Messages; namespace PARR.AIHITMainSyncer.Services { internal class SyncerService : ISyncerService { private readonly ILogger logger; private readonly ITransformService transformService; private readonly IUnitService unitService; private readonly IUnitFieldService unitFieldService; private readonly IUnitFieldValueService unitFieldValueService; private readonly FieldValueReplacementsSettings fieldValueReplacementsSettings; public SyncerService( ILogger logger, ITransformService transformService, IUnitService unitService, IUnitFieldService unitFieldService, IUnitFieldValueService unitFieldValueService, FieldValueReplacementsSettings fieldValueReplacementsSettings ) { this.logger = logger; this.transformService = transformService; this.unitService = unitService; this.unitFieldService = unitFieldService; this.unitFieldValueService = unitFieldValueService; this.fieldValueReplacementsSettings = fieldValueReplacementsSettings; } public async Task SyncAsync(string msg) { logger.LogInformation("Запуск синхронизации данных из очереди сообщений в ПАРР."); var objFromQuery = transformService.GetModelFromJson(msg); if (objFromQuery == null) { logger.LogWarning("Не удалось десериализовать сообщение в объект AihitMainDataMq. Сообщение: {Message}", msg); return; } await SyncUnitAsync(objFromQuery); } private async Task SyncUnitAsync(AihitMainDataMq objFromQuery) { logger.LogDebug("Начинаем синхронизацию Unit для объекта с именем: {UnitName}", objFromQuery.Name); //Получаем сразу словарь атрибутов, чтобы не ходить каждый раз в базу var fieldsFromDB = await unitFieldService.Get().AsNoTracking().ToListAsync(); if (!objFromQuery.Properties.Any()) { logger.LogWarning("Объект {UnitName} не содержит свойств для синхронизации", objFromQuery.Name); return; } // 1. Создаем копию и нормализуем свойства (удаляем лишние пробелы) var normalizedProperties = new Dictionary(); foreach (var kvp in objFromQuery.Properties) normalizedProperties[kvp.Key.Trim()] = kvp.Value?.Trim(); // 2. Применяем замены значений к нормализованным свойствам ApplyFieldValueReplacements(normalizedProperties); var listAihitData = new List>(); // 3. Обрабатываем простые значения из нормализованных свойств var propertisWithSimpleValues = normalizedProperties .Where(t => fieldsFromDB.Any(a => IsStringEqual(t.Key.Trim(), a.AihitName) && a.IsMultipleValue != true)) .Select(s => new KeyValuePair(s.Key.Trim(), s.Value?.Trim())).ToList(); listAihitData.AddRange(propertisWithSimpleValues); // 4. Обрабатываем множественные значения из нормализованных свойств var propertiesWithMultipleValues = objFromQuery.Properties.Where(t => !propertisWithSimpleValues.Any(a => t.Key.Trim() == a.Key)).ToList(); propertiesWithMultipleValues.ForEach(p => listAihitData.AddRange( SplitValues(p, fieldsFromDB).Distinct().Select(s => new KeyValuePair(s.Key.Trim(), s.Value?.Trim())) )); var unit = await GetUnit(objFromQuery.Name); var incomingPairs = listAihitData .Select(kv => new { kv.Key, kv.Value }) .ToList(); // Определяем, какие ПОЛЯ обновляются этим сообщением чтобы случайно не удалить не наши var fieldsInMessage = listAihitData .Select(kv => kv.Key) .Distinct(StringComparer.OrdinalIgnoreCase) .ToHashSet(); var unitValuesToRemove = unit.UnitValues .Where(uv => uv.Field != null && fieldsInMessage.Contains(uv.Field.AihitName) && !listAihitData.Any(kv => IsStringEqual(uv.Field.AihitName, kv.Key) && IsStringEqual(uv.Value?.Value, kv.Value) ) ) .ToList(); if (unitValuesToRemove.Any()) { logger.LogDebug("Удаляем {Count} устаревших значений для Unit {UnitName}", unitValuesToRemove.Count, unit.Name); unitValuesToRemove.ForEach(uv => unit.UnitValues.Remove(uv)); } var unitValueMissing = listAihitData.Where(t => !unit.UnitValues.Any(a => IsStringEqual(t.Key, a.Field!.AihitName) && IsStringEqual(t.Value, a.Value!.Value) )).ToList(); if (unitValueMissing.Any()) { logger.LogDebug("Найдено {Count} отсутствующих пар значений для Unit {UnitName}", unitValueMissing.Count, unit.Name); var fieldsInChanges = unitValueMissing.Select(s => s.Key).Distinct().ToList(); var valuesInChanges = unitValueMissing.Select(s => s.Value).Distinct().ToList(); await SyncFieldsAsync(fieldsInChanges!, fieldsFromDB); await SyncValuesAsync(valuesInChanges); var normalizedFieldNames = fieldsInChanges .Select(n => n?.Trim()) .Where(n => n != null) .ToHashSet(StringComparer.OrdinalIgnoreCase); var fieldsNameWithId = await unitFieldService.Get().AsNoTracking() .Where(f => normalizedFieldNames.Contains(f.AihitName)) .ToListAsync(); var normalizedValues = valuesInChanges .Where(v => v != null) .Select(v => v!.Trim()) .ToHashSet(StringComparer.OrdinalIgnoreCase); var valuesWithId = await unitFieldValueService.Get().AsNoTracking() .Where(v => (v.Value == null && valuesInChanges.Contains(null)) || (v.Value != null && normalizedValues.Contains(v.Value))) .ToListAsync(); foreach (var change in unitValueMissing) ApplyChange(unit, fieldsNameWithId, valuesWithId, change); if (!await unitService.CommitAsync()) { logger.LogError("Не удалось применить изменения по актуализиции аттрибуто Unit {UnitName} в базе данных", unit.Name); return; } logger.LogInformation("Успешно обновлены атрибуты для Unit {UnitName}. Добавлено {AddedCount} значений", unit.Name, unitValueMissing.Count); } else { logger.LogDebug("Нет новых значений для синхронизации для Unit {UnitName}", unit.Name); } logger.LogInformation("Завершена синхронизация Unit {UnitName}", unit.Name); return; } private List> SplitValues(KeyValuePair multiValueProperty, List fieldsFromDB) { var result = new List>(); // Обработка null или пустой строки if (string.IsNullOrEmpty(multiValueProperty.Value)) { result.Add(new KeyValuePair(multiValueProperty.Key, multiValueProperty.Value)); return result; } // Поиск конфигурации поля для тега // Рекомендация: если метод вызывается в цикле, передавайте найденное поле внешним слоем var tagUnitField = fieldsFromDB.FirstOrDefault(f => f.Code == "tag"); bool isTagProperty = tagUnitField != null && multiValueProperty.Key == tagUnitField.AihitName; string[] splitValues; if (isTagProperty) { // Для тегов нормализуем разделители до пробела var normalizedValue = multiValueProperty.Value .Replace(';', ' ') .Replace('.', ' ') .Replace(',', ' '); splitValues = normalizedValue.Split(' ', StringSplitOptions.RemoveEmptyEntries); } else { // Для остальных полей стандартный разделитель - запятая splitValues = multiValueProperty.Value.Split(',', StringSplitOptions.RemoveEmptyEntries); } foreach (var value in splitValues) { var trimmedValue = value.Trim(); // Добавляем только непустые значения после обрезки пробелов if (!string.IsNullOrEmpty(trimmedValue)) { result.Add(new KeyValuePair(multiValueProperty.Key, trimmedValue)); } } return result; } private void ApplyChange(Unit unit, List fieldsNameWithId, List valuesWithId, KeyValuePair change) { var field = fieldsNameWithId.FirstOrDefault(t => IsStringEqual(t.AihitName, change.Key)); var value = valuesWithId.FirstOrDefault(t => IsStringEqual(t.Value, change.Value)); if (field == null || value == null) { logger.LogError("Ошибка присвоения значения({Value}) аттрибуту({Key}). FieldId - {FieldId}, ValueId - {ValueId}", change.Value, change.Key, field?.Id, value?.Id); } else { var unitInValue = new UnitInValue { UnitId = unit.Id, FieldId = field.Id, ValueId = value.Id, DateCreated = DateTimeOffset.UtcNow }; unit.UnitValues.Add(unitInValue); } } private async Task SyncValuesAsync(List values) { bool hasNull = values.Any(v => v is null); // все поля из АИХИТ var normalizedNoneNullValues = values .Where(v => v != null) .Select(v => v!.Trim()) .Distinct(StringComparer.OrdinalIgnoreCase) .ToList(); logger.LogDebug("Синхронизируем {Count} значений (включая null: {HasNull})", normalizedNoneNullValues.Count, hasNull); // Получаем существующие значения из БД var existingValuesInDb = await unitFieldValueService.Get() .Where(v => normalizedNoneNullValues.Contains(v.Value!) || v.Value == null) .Select(v => v.Value) .ToListAsync(); if (!hasNull) existingValuesInDb.RemoveAll(v => v is null); var newNonNullValues = normalizedNoneNullValues .Where(v => !existingValuesInDb.Any(ev => string.Equals(ev, v, StringComparison.OrdinalIgnoreCase))) .ToList(); var newValuesToInsert = new List(); newValuesToInsert.AddRange(newNonNullValues); if (hasNull && !existingValuesInDb.Contains(null)) newValuesToInsert.Add(null); if (newValuesToInsert.Count == 0) { logger.LogDebug("Нет новых значений для добавления в базу данных"); return; } // Создаём сущности — сохраняем оригинальный регистр из nonNullValues! // (для null — просто null) var newFieldValues = newValuesToInsert.Select(v => new UnitFieldValue { Id = Guid.NewGuid(), Value = v // ← v — уже trim()-нутый non-null, или null }) .ToList(); if (!await unitFieldValueService.AddRangeAsync(newFieldValues) || !await unitFieldValueService.CommitAsync()) { logger.LogError( "Не удалось сохранить {Count} новых значений FieldValues", newValuesToInsert.Count); } else { if (newValuesToInsert.Count <= 10) { var preview = string.Join(", ", newValuesToInsert.Select(v => v ?? "")); logger.LogInformation("Добавлено {Count} значений FieldValues: [{Values}]", newValuesToInsert.Count, preview); } else { logger.LogInformation("Добавлено {Count} значений FieldValues (первые 5: {Preview})", newValuesToInsert.Count, string.Join(", ", newValuesToInsert.Take(5).Select(v => v ?? ""))); } } } private async Task SyncFieldsAsync(List fieldsFromAihit, List fieldsFromDB) { var newFields = fieldsFromAihit.Where(t => !fieldsFromDB.Any(f => IsStringEqual(f.AihitName, t))).ToList(); if (!newFields.Any()) { logger.LogDebug("Нет новых полей для добавления в базу данных"); return; } logger.LogDebug("Найдено {Count} новых полей для добавления", newFields.Count); foreach (var item in newFields) { var field = new UnitField { Id = Guid.NewGuid(), AihitName = item, EsppName = null, }; if (!await unitFieldService.CreateAsync(field)) { logger.LogError("Не удалось создать запись в таблице Fields: {FieldName}", item); } else { logger.LogInformation("Создана запись в таблице Fields: {FieldName}", item); } } if (!await unitFieldService.CommitAsync()) { logger.LogError("Не удалось применить изменения по добавлению новых Fields в базе данных"); } else { logger.LogDebug("Успешно зафиксированы изменения по добавлению новых Fields"); } } private bool IsStringEqual(string? value1, string? value2) { return string.Equals( value1?.Trim(), value2?.Trim(), StringComparison.OrdinalIgnoreCase); } private async Task GetUnit(string name) { var unit = await GetUnitByName(name.Trim()); if (unit == null) { logger.LogDebug("Unit с именем {UnitName} не найден, создаем новый", name); unit = await CreateUnitAsync(name); } else { logger.LogDebug("Найден существующий Unit с именем {UnitName}", name); } return unit; } private async Task CreateUnitAsync(string name) { var unit = new Unit { Name = name.Trim().ToUpperInvariant() }; if (!await unitService.CreateAsync(unit) || !await unitService.CommitAsync()) { logger.LogError("Не удалось создать Unit {UnitName}", unit.Name); throw new InvalidOperationException($"Не удалось создать Unit {unit.Name}"); } else { logger.LogInformation("Создан Unit: {UnitName}", unit.Name); } return unit; } public async Task GetUnitByName(string name) { var normalized = name.Trim().ToUpperInvariant(); return await GetUnitWithFieldsAndValues() .FirstOrDefaultAsync(u => u.Name == normalized); } private IQueryable GetUnitWithFieldsAndValues() { return unitService.Get() .Include(t => t.UnitValues) .ThenInclude(uv => uv.Field) .Include(t => t.UnitValues) .ThenInclude(uf => uf.Value); } private void ApplyFieldValueReplacements(Dictionary properties) { foreach (var replacement in fieldValueReplacementsSettings.Replacements) { if (properties.ContainsKey(replacement.FieldName)) { var currentValue = properties[replacement.FieldName]; // Это костыль, List не может хранить null, вместо null он хранит "" var stringNull = "null"; // Проверяем, содержится ли текущее значение в списке OldValues (с учетом регистра) if (replacement.OldValues.Contains(currentValue ?? stringNull, StringComparer.OrdinalIgnoreCase)) { logger.LogDebug("Заменяем значение поля '{FieldName}' с '{OldValue}' на '{NewValue}'", replacement.FieldName, currentValue, replacement.NewValue); properties[replacement.FieldName] = replacement.NewValue; } } } } } }