Периодическая загрузка событий из журналов регистрации в базу MS SQL Server (с исходниками)

Публикация № 182820

Администрирование - Администрирование данных 1С - Журнал регистрации

Еще один вариант парсера файлов журнала регистрации для 8.2.
Преимущества:
1) Читает файлы напрямую, что дает высокую скорость.
2) Знает, где остановилось чтение в прошлый раз, и начинает с этого места при следующем запуске.
3) Может работать и как windows-служба, и как обычное приложение.

Приложение написано на .NET 2.0.

Порядок работы:

1) На сервере MS SQL создать пустую базу данных.

2) На сервере приложений 1С, из БД которого нужно грузить события, под административными правами запустить EventLogLoaderManager.exe

3) Указать строку соединения с базой.

Можно использовать шаблоны:
для windows-авторизации Data Source=MSSQL1;Server=имя сервера;Database=имя базы;Integrated Security=true;
для обычной авторизации  Data Source=MSSQL1;Server=имя сервера;Database=имя базы;Password=Пароль;User ID=Имя пользователя;

4) Указать интервал между циклами чтения событий из ЖР. Допустимо ставить несколько секунд - на производительности сервера не скажется.

5) Отметить те БД, события из которых необходимо периодически загружать в базу.

6) Нажать «Сохранить параметры», при этом в каталоге программы создается файл настроек setting.ini

7) Если нужна периодическая загрузка – нажимаем «Установить службу», ищем в списке служб «EventLog loader service» и исправляем аккаунт, от имени которого будет работать служба. Если строка соединения содержит логин и пароль, то можно ничего не менять, если нет, то службу нужно запускать от имени правильной учетной записи windows, которая имеет полные права на SQL-базу с событиями.

8) Если нужна разовая загрузка – запускаем из каталога программы EventLogLoader.exe. Следует учесть, что это приложение, как и служба, работает в бесконечном цикле (проверяет новые события, пишет их в базу, делает паузу, затем повторяет заново), поэтому прерывается она при нажатии любой кнопки мыши.

 

 

Некоторые особенности

1)      Для каждой ИБ журнал регистрации грузится в отдельном потоке. Если начнете грузить по сотне баз, то велика вероятность на начальном этапе повесить сервер. В дальнейшем, если проверять новые события достаточно часто (например, каждые 10 секунд), то служба быстро их записывает в базу без особой загрузки сервера.

2)      Если загрузку прервать, то при повторном запуске она продолжится с места остановки (позиция сохраняется в БД).

3)      Таблицы в БД создаются автоматически. Если вы удалили какая-нибудь таблицу - надо перезапустить службу.

4)      Все события по всем ИБ хранятся в одной таблице. Разделитель – колонка «Код информационной базы».

5)      Логи с ошибками хранятся в каталоге программы в папке «log».

6)      Работает только с платформой 8.2 (файлами lgf и lgp).

7)      В таблицах созданы только основные кластерные индексы по полю "Код информационной базы". Для ускорения запросов, которые вам требуются регулярно, нужно добавлять свои индексы.

8)      Несколько полей осталось нераспознанными (Field2, Field7, Field8). Если вам известно их назначение - сообщите, пожалуйста.

 

Описание таблиц

 

1) Infobases - список обрабатываемых ИБ. Код генерируется автоматически при добавлении новой базы в этот список. Эти же коды определяют принадлежность записей в определенной ИБ во всех других таблицах.

2) Params - хранит последние прочитанные файлы и позиции в них.

3) Назначение остальных таблиц понятно из их названия. Итоговая таблица  с событиями с присоединенными справочниками

SELECT     TOP (1000) Infobases.Name, Events.DateTime, Events.TransactionStatus, Events.TransactionStartTime, Events.TransactionMark,
                     
Users.Name AS [User], Computers.Name AS Computer, Applications.Name AS App, Events.Field2, EventsType.Name AS EventType,
                     
Events.EventType, Events.Comment, Metadata.Name AS Metadata, Events.DataStructure, Events.DataString,
                     
Servers.Name AS [Server], MainPorts.Name AS MainPort, SecondPorts.Name AS SecondPort, Events.Seance
FROM         Events INNER JOIN
                     
Applications ON Events.InfobaseCode = Applications.InfobaseCode AND Events.AppName = Applications.Code INNER JOIN
                     
Computers ON Events.InfobaseCode = Computers.InfobaseCode AND Events.ComputerName = Computers.Code INNER JOIN
                     
EventsType ON Events.InfobaseCode = EventsType.InfobaseCode AND Events.EventID = EventsType.Code INNER JOIN
                     
Infobases ON Events.InfobaseCode = Infobases.Code INNER JOIN
                     
Users ON Events.InfobaseCode = Users.InfobaseCode AND Events.UserName = Users.Code INNER JOIN
                     
SecondPorts ON Events.InfobaseCode = SecondPorts.InfobaseCode AND Events.SecondPortID = SecondPorts.Code INNER JOIN
                     
Servers ON Events.ServerID = Servers.Code AND Events.InfobaseCode = Servers.InfobaseCode INNER JOIN
                     
MainPorts ON Events.InfobaseCode = MainPorts.InfobaseCode AND Events.MainPortID = MainPorts.Code INNER JOIN
                     
Metadata ON Events.InfobaseCode = Metadata.InfobaseCode AND Events.MetadataID = Metadata.Code

 

Объемы получаемой информации

Хранение структурированных данных более затратное с точки зрения требуемого места на дисках.
Иными словами - объем базы данных будет существенно больше суммы объемов всех ЖР, которые были обработаны и загружены.

Реальный пример:

2 информационные базы с объемом ЖР 2132 Мб (1192+971).  Время первичного разбора в 2 потока (т.к. базы 2) - около 1,5 часов.

Общее количество событий - 19'507'484 млн.

Объем базы на MS SQL Server - 12879 Мб, т.е. примерно в 6 раз больше!

НО - если применить сжатие таблиц, как, например, описано здесь, то получим 1610 Мб, т.е. даже меньше исходных данных.
К сожалению, не все версии MS SQL Server поддерживают сжатие.

 

Скачать файлы

Наименование Файл Версия Размер
Приложение
.zip 314,56Kb
13.04.13
131
.zip 314,56Kb 131 Скачать
Исходники
.zip 1,88Mb
06.06.14
60
.zip 1,88Mb 60 Скачать

Специальные предложения

Комментарии
Избранное Подписка Сортировка: Древо развёрнутое
Свернуть все
1. aspirator23 420 17.04.13 07:22 Сейчас в теме
Спасибо, как всегда интересная нестандартная публикация.
Работа с журналами в больших базах - это всегда хлопотное дело.
2. Антон Ширяев 476 17.04.13 08:52 Сейчас в теме
Безусловно программа полезна, но считаю совсем некорректным не ссылаться на мои публикацию - http://infostart.ru/public/182061/ - Формат файлов журнала регистрации 1С 8.1/8.2 - ELF/LOG/LGF/LGP и http://infostart.ru/public/181455/ - Анализ и редактирование файлов журнала регистрации 1С 8.1/8.2 - ELF/LOG/LGF/LGP

Возможно конечно вы их вовсе не использовали в своей работе, но как минимум в них заходили и даже скачивали файл АнализФайловЖурналаРегистрации_1_0.epf, поэтому не знать о них не могли.
3. Aleksey.Bochkov 3345 17.04.13 10:06 Сейчас в теме
(2) - программа была разработана ранее ваших публикаций, но только сейчас дошли руки оформить ее в нормальном виде. Плюс - она же бесплатная.
Вот если бы я использовал ваши разработки для коммерческой версии, тогда претензия была бы обоснована.
Прикрепленные файлы:
fristaller; Vyacheslide; ram3; michmich; RegrZ; hazyaka; +6 Ответить
4. cool.vlad4 44 17.04.13 10:31 Сейчас в теме
(3) с вашими знаниями вы вполне могли использовать File.SetCreationTime ;)
Прикрепленные файлы:
5. Aleksey.Bochkov 3345 17.04.13 10:51 Сейчас в теме
(4) вот предыстория. Так убедительнее? :)
Прикрепленные файлы:
kirillkr; +1 Ответить
6. Антон Ширяев 476 17.04.13 12:51 Сейчас в теме
(3)
тогда претензия была бы обоснована

Претензии не было, было указано лишь на то, что некорректно не ссылаться на публикации которые перекликаются с вашей, т.к. до этого на Инфостарте не было публикаций где применялось прямое чтение файлов журнала регистрации.
Ну и конечно же это ваше дело, но раз уже был разобран формат файлов журнала регистрации, то могли бы и оставить свои комментарии к моим публикациям, например что в 8.2 значат справочники 11, 12 и 13, встречаются ли другие справочники, всегда ли последней колонке {0}, как корректно разбирать {"P",...
7. Valet 56 02.05.13 23:20 Сейчас в теме
(0)Приложите обработку для просмотра ЖР на SQL из 1С, тогда это будет законченное решение.
Да, многим не составит труда её саму написать, но лень/некогда/немогу(нужное подчеркнуть) и другие причины уменьшают количество потенциальных пользователей.
hazyaka; METAL; the_master; +3 Ответить
8. kiruha 384 06.06.14 09:53 Сейчас в теме
Насколько сказывается работа этой программы на производительности основной базы ?
Возможен ли вариант блокировок и т.п. ?
9. Aleksey.Bochkov 3345 06.06.14 11:39 Сейчас в теме
(8) kiruha,
Насколько сказывается работа этой программы на производительности основной базы ?

Приложение никак не взаимодействует с основной базой. Данные читаются из файлов на сервере приложений 1С.
Но вычислительная нагрузка, конечно присутствует. Если баз несколько, то ее будет незаметно. Если же запустить загрузка ЖР сразу из сотни - какую-то существенную долю процессора и дисков приложение съест.
Возможен ли вариант блокировок и т.п. ?

Нет.
10. adapter 539 06.06.14 15:23 Сейчас в теме
А что потом делать с этими данными в SQL ? как отобрать все записи об изменении приходной накладной №000345 ? или выбрать все что ввела за сегодня Маша Иванова? Сравнить с Таней Петровой? Информация имеет смысл если ее можно легко обработать.
11. Aleksey.Bochkov 3345 06.06.14 15:48 Сейчас в теме
(10) adapter,
Алгоритм тут будет очень похож на тот, который вы бы сделали для решения аналогичной задачи с журналом регистрации внутри 1С.
Идентификаторы пользователей и объектов метаданных есть. ГУИДы объектов также. Пишите правильный запрос и получите правильные данные :).
Вот тут есть хороший вариант применения - http://infostart.ru/public/182833/. Решается, казалось бы, легкая задача, но на самом деле совсем нетривиальная (т.к. в 1С до сих пор нет нормальных штатных инструментов для получения реальной длительности записи и проведения документов, точнее, длительности транзакций).

Но я бы сказал так - инструмент предназначен скорее всего для тех, кто понимает - что потом с этими данными в SQL делать :).
14. vis_tmp 30 05.02.15 11:56 Сейчас в теме
(11) Алексей, будет ли программа корректно отрабатывать в случае удаления файла журнала регистрации.
Ситуация следующая: имеем файл журнала регистрации большого объёма, начали пользоваться вашей программой.
Потом решили этот большой файл удалить, чтобы он начался заново.
Программа будет переносить записи уже из нового файла и добавлять их к уже имеющимся в SQL ?
15. Aleksey.Bochkov 3345 07.02.15 01:45 Сейчас в теме
(14) vis_tmp,
Позиция, с которой необходимо продолжать чтение в журнале регистрации, хранится в разрезе имен файлов.
Т.е. если файл будет удален то 1С создаст новый с новым именем, а чтение начнется с начала и записи будут добавляться к уже имеющимся.

Кстати, у меня уже новая версия есть.
- добавил загрузку из нового формата журнала регистрации 8.3 (SQLite)
- добавил возможность загрузки событий в MySQL базу данных.
- менеджер настроек теперь отображает файловые базы пользователя, также можно добавить путь вручную.
- исправил пару ошибок в загрузке событий.

Бинарники во вложении, публикацию обновлю позже.
Но я не тестировал на 32-разрядной системе..
Прикрепленные файлы:
1.1.2.1.zip
43. vis_tmp 30 29.01.20 05:50 Сейчас в теме
(15)Добрый день, Алексей
База была переведена с 8.2 на 8.3 (файл 1Cv8.lgd, SQLite).
Скачал и установил новую версию, настроил строку подключения к SQL и отметил нужную базу.
При попытке запуска EventLogLoader.exe фиксируется следующая ошибка:

29.01.2020 07:55:26 (INFO): Проверка таблиц в БД выполнена успешно!.
29.01.2020 07:55:27 (ERROR): Ошибка обработки файлов событий ИБ (UT83). System.Data.SqlClient.SqlException: Недопустимое имя столбца "LastEventID".
в System.Data.SqlClient.SqlConnection.OnError(SqlException exception, Boolean breakConnection)
в System.Data.SqlClient.TdsParser.ThrowExceptionAndWarning(TdsParserStateObject stateObj)
в System.Data.SqlClient.TdsParser.Run(RunBehavior runBehavior, SqlCommand cmdHandler, SqlDataReader dataStream, BulkCopySimpleResultSet bulkCopyHandler, TdsParserStateObject stateObj)
в System.Data.SqlClient.SqlDataReader.ConsumeMetaData()
в System.Data.SqlClient.SqlDataReader.get_MetaData()
в System.Data.SqlClient.SqlCommand.FinishExecuteReader(SqlDataReader ds, RunBehavior runBehavior, String resetOptionsString)
в System.Data.SqlClient.SqlCommand.RunExecuteReaderTds(CommandBehavior cmdBehavior, RunBehavior runBehavior, Boolean returnStream, Boolean async)
в System.Data.SqlClient.SqlCommand.RunExecuteReader(CommandBehavior cmdBehavior, RunBehavior runBehavior, Boolean returnStream, String method, DbAsyncResult result)
в System.Data.SqlClient.SqlCommand.RunExecuteReader(CommandBehavior cmdBehavior, RunBehavior runBehavior, Boolean returnStream, String method)
в System.Data.SqlClient.SqlCommand.ExecuteReader(CommandBehavior behavior, String method)
в System.Data.SqlClient.SqlCommand.ExecuteReader()
в EventLogLoaderService.EventLogLoaderService.EventLogLoader.GetParamFromSQL()
в EventLogLoaderService.EventLogLoaderService.InfoBaseEventlog.Initialize()
в EventLogLoaderService.EventLogLoaderService.InfoBaseEventlog.DoWork()

Что нужно сделать чтобы заработало?
25. farukshin 99 01.09.16 12:00 Сейчас в теме
(10) adapter,
А что потом делать с этими данными в SQL ?


Как вариант - анализ и визуализация данных в ElasticSearch http://infostart.ru/public/545895/
12. chmv 27.06.14 15:12 Сейчас в теме
13. newgluk 84 24.09.14 09:54 Сейчас в теме
в MS SQL 2012: (ERROR): Ошибка получения ID ИБ из БД (mybase). System.Data.SqlClient.SqlException: Invalid object name 'dbo.Infobases'.
Или это я с правами не разобрался?
16. dimon_upi 06.04.15 08:36 Сейчас в теме
Спасибо большое. Очень полезно, давно сам хотел сделать, но уж больно много вкусностей вы положили в свою работу.
17. xinex 28.09.15 15:29 Сейчас в теме
Алексей, периодически останавливается загрузка данных ЖР в базу.
ПО EventLogLoader грузит ядро процессора на 100%, но данные в SQL не пишет.

Спасибо за данное ПО, сильно помогает в работе.

upd:

Нашел причину. EventLogLoader не может корректно обработать события, где очень большой коментарий:
{20140917161102,N,
{0,0},129,1377,4,5280,32,E,"{ОбщийМодуль.Название.Модуль(1467)}: {""#"",e199ca70-93cf-46ce-a54b-6edc88c3a296,
{#base64: здесь 323КБ символов в 9800 строках
}
}",0,
{"S","Расчет завершен."},"",1,14,2,10485,0,
{0}
}
18. milanse 34 19.11.15 16:23 Сейчас в теме
Привет.

У меня сейчас реализован сбор данных через ком, на основании местной же разработки, хотел переписывать через вебсервис, но это, походу не нужно ;)
Работает весьма и весьма шустро. не нужно парсить гигабайтные xml выгрузки журналов.
Сейчас тестирую параллельную загрузку журнала 1 базы из 3-х источников - работающая база, 2 файла журнала, которые в один прекрасный момент пришли в негодность. Пока все работает

Использую бинарник 1.1.2.1.zip т.к. журналы в формате sqlight - не заполняется колонка [MetadataID] видимо metadataCodes в базе там ид метаданных через запятую, а для связи используется таблица EventLogMetadata, не смотрел еще, но скорее всего когда в metadataCodes несколько кодов (типа события регистрации ошибок доступа) то в ней на каждую запись события несколько записей кодов метаданных.
сырцов нет, поправить особо возможности тоже, если есть возможность сделать в [MetadataID] первый по счету ИД - было бы здорово.

Со своей стороны выложу обработку для открытия событий по объекту с обращением к базе журнала. т.к. буду использовать сие в своих конфах.
19. Aleksey.Bochkov 3345 19.11.15 20:45 Сейчас в теме
20. nwomib 02.12.15 13:56 Сейчас в теме
Очень большая просьба, там же выкладывать скомпилированные варианты т.к. уже немного запарился компилировать, вечные ошибки.

Будет ли фича очистки за собой логов с настройкой глубины чистки?
21. nwomib 02.12.15 13:57 Сейчас в теме
Имеется в виду, прочёл лог 1ски , прошло 5 дней и почистил лог 1ски.
23. Aleksey.Bochkov 3345 10.06.16 08:26 Сейчас в теме
Попробовал собрать актуальную версию... не уверен, что все правильно сделал, т.к. давно не занимался.
Скачать можно здесь: https://github.com/alekseybochkov/EventLogLoader/releases/tag/1.0.0.2
Если будут проблемы - попробую поправить.
29. zzz_natali 59 26.07.17 16:18 Сейчас в теме
(23) Ваш запрос T-SQL не выводит данные. Формируются заголовки столбцов и всё. Данные в базе есть(ибо если ручками делать select top 1000, то выводит потроха). В чём может быть прикол? Спасибо.
30. JohnyDeath 296 26.07.17 23:07 Сейчас в теме
(29) какой формат лога? Текст?
31. zzz_natali 59 27.07.17 05:29 Сейчас в теме
(30) Формат lgf/lgp. Текст чего, запроса? - взят с публикации.
37. Noxie41 16.11.18 16:53 Сейчас в теме
(29) Проблема во внутреннем соединении в запросе по таблице дополнительного ip порта.
Исправленный запрос ниже:
SELECT TOP (1000) Infobases.Name,
       Events.DateTime,
       Events.TransactionStatus,
       Events.TransactionStartTime,
       Events.TransactionMark,
       Users.Name AS [User],
       Computers.Name AS Computer,
       Applications.Name AS App,
       Events.Field2,
       EventsType.Name AS EventType,
       Events.EventType,
       Events.Comment,
       Metadata.Name AS Metadata,
       Events.DataStructure,
       Events.DataString,
       Servers.Name AS [Server],
       MainPorts.Name AS MainPort,
       SecondPorts.Name AS SecondPort,
       Events.Seance
FROM EVENTS
INNER JOIN Applications ON Events.InfobaseCode = Applications.InfobaseCode
AND Events.AppName = Applications.Code
INNER JOIN Computers ON Events.InfobaseCode = Computers.InfobaseCode
AND Events.ComputerName = Computers.Code
INNER JOIN EventsType ON Events.InfobaseCode = EventsType.InfobaseCode
AND Events.EventID = EventsType.Code
INNER JOIN Infobases ON Events.InfobaseCode = Infobases.Code
INNER JOIN Users ON Events.InfobaseCode = Users.InfobaseCode
AND Events.UserName = Users.Code
LEFT JOIN SecondPorts ON Events.InfobaseCode = SecondPorts.InfobaseCode
AND Events.SecondPortID = SecondPorts.Code
INNER JOIN Servers ON Events.ServerID = Servers.Code
AND Events.InfobaseCode = Servers.InfobaseCode
INNER JOIN MainPorts ON Events.InfobaseCode = MainPorts.InfobaseCode
AND Events.MainPortID = MainPorts.Code
INNER JOIN Metadata ON Events.InfobaseCode = Metadata.InfobaseCode
AND Events.MetadataID = Metadata.Code
Показать
Aleksey.Bochkov; +1 Ответить
24. Oleg1978 19.07.16 12:36 Сейчас в теме
Алексей, добрый день!

Я правильно понимаю, что журнал регистрации 1С отображать на Microsoft SQL Server штатными настройками невозможно (по аналогии со всеми другими таблицами информационной базы)? А Ваша обработка как раз и формирует на SQL необходимые таблицы и загружает в нее данные из файла ? Подскажите, пожалуйста, Ваша обработка может работать с версией Предприятия 1С 8.3.7 и файлом .lgf ? Спасибо!
26. zarucheisky 07.09.16 13:53 Сейчас в теме
(24) Oleg1978, с версией Предприятия 1С 8.3.7 ЖР хранится в формате SQLite - можно поставить ODBC драйвер.
27. alyaev.a.v 08.11.16 13:00 Сейчас в теме
Хорошо бы кто поправил ошибку при загрузке, например такая запись останавливает загрузку и сервис тупо висит:
{20160418154655,N,
{0,0},63,1,4,113934,75,E,"",98,
{"S","{ОбщийМодуль.ОбщегоНазначения.Модуль(6907)}: Не удалось записать ""Документ 0001834 от 07.11.2015 13:45:11""!(ТУТ ПЕРЕВОД НА СЛЕД СТРОКУ)
Для документа договор обязательно должен быть заполнен!!!(ТУТ ПЕРЕВОД НА СЛЕД СТРОКУ)
ВызватьИсключение СокрЛП(КраткоеПредставлениеОшибки(Информация) + Символы.ПС + СокрЛП(ТекстИсключения));"},"",1,8,0,21665,0,
{2,1,1,2,1}
}

если в тексте убрать перевод строки и сделать так(удалить переводы строк в описании сообщения)то все работает :
{20160418154655,N,
{0,0},63,1,4,113934,75,E,"",98,
{"S","{ОбщийМодуль.ОбщегоНазначения.Модуль(6907)}: Не удалось записать ""Документ 0001834 от 07.11.2015 13:45:11""!Для документа договор обязательно должен быть заполнен!!! ВызватьИсключение СокрЛП(КраткоеПредставлениеОшибки(Информация) + Символы.ПС + СокрЛП(ТекстИсключения));"},"",1,8,0,21665,0,
{2,1,1,2,1}
}
Aleksey.Bochkov; +1 Ответить
28. baton_pk 401 11.01.17 13:42 Сейчас в теме
32. SashkaIvanov 06.03.18 13:54 Сейчас в теме
Произошел какой-то сбой, в таблице Events выдаются записи которые не от этой базы, не к тому пользователю. Если сравнивать файловый, и то что в БД, имеется запись с датой и id но пользователь не тот, и событие не то. как будто что-то перепуталось (сервис работает сразу с 3 базами) и чать данных от одной базы, а часть от другой. Если ли возможность как-то исправить данную ошибку. И есть ли возможность например вызвать что-то чтобы удалить записи по последнему лог файлу, и запустить повторный экспорт.(Пойдет ли вариант удаления в params и зачистка всех таблиц от данного кода Infobases?)
33. SashkaIvanov 06.03.18 14:45 Сейчас в теме
Новая версия к старой базе БД не создает колонку в params LastEventID из-за этого запись не создается
34. SashkaIvanov 19.03.18 08:55 Сейчас в теме
Сейчас пытаюсь все таки понять что произошло, произошло что-то с бд. Таблица User заполнена криво, то есть коды пользователей в таблице EVENTS соответствуют кодам USER, но в таблице USER какие-то левые пользователи под этими кодами. Пробовал по ГУИДУ искать пользователей в базе,(Гуид который указан в колонке GUIS , ничего не находит.) откуда тогда они взялись. Сразу скажу в базе Гуиды не поменялись, ну даже если и поменялись, ведь загрузка должна была создать новую строку, чего не произошло. В общем на текущий момент пока что ошибка в том что таблица USER кривая, и не понятно как ее перезаполнить, ведь удалив из таблицы все, и затем запустив загрузчик, User приедут с новыми кодами, и все предыдущие логи будут утерены!
36. alyaev.a.v 21.06.18 13:37 Сейчас в теме
Предыдущий коммент не правильно описал исправить нет возможности, вот так правильно:

1.Если винда где стоит сервер 1с русская и файл в новом формате, в базу с логами попадает не читаемый текст.
2.Если настроено на онлайн чтение лога(база активно работает логи в старом формате, режутся по дням) периодически загрузка логов останавливается, хотя база активно пишет в файл и получается что часть данных до окончания текущего дня теряется, на след день создается новый файл лога, программа считает что старый файл прочитан полностью и начинает чтение нового файла. Выяснить удалось что номер последнего символа который сохранен в файле загрузчика указывает на конец строки, хотя в процессе чтения обычно указывает на начало строки например:



{20180515000000,C,
{2430080b7a000,2cf},101,161,3,235565,1,I,"",0,
{"U"},"",2,10,0,4885,0,
{2,1,1,2,1}
},КОГДА СЛУЧАЕТСЯ ОСТАНОВКА И ЧТЕНИЕ ПРЕКРАЩАЕТСЯ НОМЕР ПОЗИЦИИ УКАЗЫВАЕТ СЮДА
ОБЫЧНО НОМЕР ПОЗИЦИИ УКАЗЫВАЕТ СЮДА И ВСЕ РАБОТАЕТ ХОРОШО{20180515000000,C,
{2430080b7a000,2cf},101,161,3,235565,2,I,"",0,
{"U"},"",2,10,0,4885,0,
{2,1,1,2,1}
},

Если руками в файле поправить позицию, установить на начало строки то чтение возобновляется и файл дочитывается нормально.
38. dimkakopylow001 6 14.06.19 16:32 Сейчас в теме
Откуда подтягивается список баз данных ?
39. Aleksey.Bochkov 3345 15.06.19 08:05 Сейчас в теме
(38) Список баз читается из конфигурационных файлов кластера 1С (1CV8Reg.lst для 8.2, 1CV8Clst.lst для 8.3) - будут отображены все текущие рабочие базы.
40. _KUL 05.07.19 10:42 Сейчас в теме
Алексей, здравствуйте!
Подскажите пожалуйста, как вы получаете данные о именах пользователей, компьютерах и т.д., для ассоциации с id номерами в логах? Или укажите ссылочку на блоки кода на гитхабе. В таком масштабном проекте для такой маленькой задачи и на таком не особо популярном ЯП написано, тяжко вникать ... :)
41. Aleksey.Bochkov 3345 12.07.19 10:20 Сейчас в теме
(40) если ЖР в файловом формате, то справочники хранятся в отдельном файле. Парсер тут - https://github.com/alekseybochkov/EventLogLoader/blob/master/EventLogLoader­Service/EventLogProcessor.vb#L1168
В SQLite формате для каждого справочника создана отдельная таблица. Запросы тут - https://github.com/alekseybochkov/EventLogLoader/blob/master/EventLogLoader­Service/EventLogProcessor.vb#L1095
А вообще вопрос не очень понятен...
serge_focus; acanta; +2 Ответить
42. _KUL 24.07.19 04:15 Сейчас в теме
(41)
Большое Вам спасибо за ответ! Как то упустил из виду файлик 1Cv8.lgf ... Делаю распределённую систему с хранением в SQL, пока для 8.2, ваши исходники как "библия" :), но логику всё равно немного по другому сделал ...
44. alexlx 70 05.02.20 14:23 Сейчас в теме
Случайно никто на java не делал подобного?
45. D_E_S131 2 26.02.20 14:41 Сейчас в теме
К сожалению, за последние годы структура ЖР изменилась и конвертер более не работает. :(
Оставьте свое сообщение

См. также

Отчет по журналу регистрации Промо

Журнал регистрации v8 v8::СКД 1cv8.cf Россия Абонемент ($m)

Отчет по журналу регистрации с использованием СКД.

2 стартмани

25.07.2011    32183    98    wowik    33    

Экспорт журнала регистрации. Набор инструментов (приложения + исходный код)

Прочие инструменты разработчика Журнал регистрации Абонемент ($m)

Набор инструментов для экспорта данных журнала регистрации во внешние хранилища для Windows и Linux. Готовые приложения и исходный код.

10 стартмани

вчера в 08:30    421    0    YPermitin    0    

Отправка сообщений о действиях в конфигураторе из журнала регистрации на почту письмом

Журнал регистрации v8 БП3.0 Россия Абонемент ($m)

Бывает, нужно знать, кто, кроме вас, открывал конфигуратор 1С и вносил ли изменения в саму конфигурацию. Представленная внешняя обработка добавляется в регламентные задания и по расписанию отправляет письмо по указанным адресам с отбором журнала регистрации за предыдущие сутки по действиям с конфигуратором за исключением указанных в ней пользователей (и пользователей операционной системы). Тестировалось на платформе 1С:Предприятие 8.3 (8.3.15.1830), в конфигурациях 1С ЗУП Проф 3.1.13.151 и 1С Бухгалтерия КОРП 3.0.75.93.

1 стартмани

13.05.2020    549    0    Svetlanka_sv    0    

Работа с журналом регистрации. Выходим за границы платформы

Журнал регистрации Бесплатно (free)

Работа с журналом регистрации нестандартными средствами. А также немного про использование платформы .NET в экосистеме 1С.

12.05.2020    2703    0    YPermitin    24    

Отчет по журналу регистрации для управляемого приложения Промо

Журнал регистрации v8 v8::УФ v8::СКД 1cv8.cf Абонемент ($m)

Отчет по журналу регистрации с использованием СКД

2 стартмани

04.02.2013    24497    167    wowik    12    

Отслеживание ошибок в журнале регистрации

Журнал регистрации v8 1cv8.cf Россия Абонемент ($m)

Как узнать об ошибках из журнала регистрации, когда вы не на рабочем месте? Легко!

1 стартмани

25.04.2020    866    1    maslyann    0    

История изменения объектов

Журнал регистрации v8 УПП1 Россия Абонемент ($m)

Отчет позволяет вывести историю изменения объектов по нескольким видам документов за день. Сделан на основании стандартного отчета по истории изменений.

1 стартмани

11.04.2020    1313    1    Int_Girl    2    

Журнал регистрации в эластике с использованием службы без использования 1С (.net + elastic)

Журнал регистрации v8 Абонемент ($m)

При большом количестве записей в ЖР типовыми средствами он просматривается тяжело либо при просмотре зависает намертво. Для просмотра ЖР есть различные обработки, которые надо запускать под 1С. В этой публикации предлагается отдельная служба фоново и незаметно работающая на сервере, не требующая использования 1С.

1 стартмани

09.03.2020    1589    5    pashamak    0    

Повышение качества разработок и онлайн контроль ошибок Промо

Журнал регистрации v8 Абонемент ($m)

Анализ ошибок и сбор ошибок журнала регистраций из десятков и сотен баз в одном месте.

09.03.2018    24610    8    DitriX    48    

История объекта (справочник, документ и.т.д)

Журнал регистрации v8 v8::УФ 1cv8.cf Россия Абонемент ($m)

Механизм позволяет, не обращаясь к администратору 1С, посмотреть историю объекта.

2 стартмани

25.02.2020    1723    3    homer_    5    

Версионирование (история изменений) объектов в 1С:Предприятие 8

Журнал регистрации v8 1cv8.cf Россия Абонемент ($m)

Версионирование представляет собой опцию, с помощью которой пользователь может легко установить, кто и когда изменил находящийся в базе документ, а также какие именно изменения имели место.  Платформа 1С:Предприятие 8 имеет сходную опцию – журнал регистрации, однако эта опция не позволяет выяснить характер изменений, журнал регистраций позволяет только узнать, когда был изменен документ и какой пользователь внес изменения. В платформе 8.3.11 данный механизм встроен "ИсторияДанных" и позволяет работать с версионированием через встроенные механизмы платформы, что является несомненным плюсом. Данная конфигурация предназначена для более ранних версий.

1 стартмани

15.01.2020    3641    9    ClickUp    0    

Мультибазовая очистка Журнала регистрации с автоматическим перемещением архивных данных в указанный каталог

Журнал регистрации v8 Россия Абонемент ($m)

На сервере 1С со временем увеличивается в размерах папка , содержащая журналы регистрации 1С и как следствие может возникнуть проблема свободного пространства на системном жестком диске. Чтобы избежать роста папки, необходимо периодически очищать журнал регистрации 1С.

1 стартмани

26.12.2019    2366    1    bryantsev.yury    3    

История формирования отчётов. (Используем новые возможности расширений в 8.3.11) Промо

Журнал регистрации v8::УФ v8::СКД УНФ ДО БП3.0 УТ11 ЗУП3.x Абонемент ($m)

Подсистема ведёт историю формирования отчётов и позволяет быстро подгрузить используется настройки в отчёт.

1 стартмани

28.11.2017    13313    19    SeiOkami    1    

Журнал регистрации SQLite, кластер, метаданные

Журнал регистрации v8 Абонемент ($m)

О журнале регистрации, его форматах и парсинге написано много статей. Но я не нашёл информации, что бы кто-то агрегировал журнал регистрации в кластере или архивные части. Суть проблемы - если у вас несколько серверов 1С (кластер), то ЖР в конкретный момент пишется только на один из узлов (как правило, назначенный функциональной опцией). Стоит перезагрузить или выключить этот узел кластера, то ЖР регистрации начинает писаться на доступный. Соответственно при просмотре ЖР записи отображаются только с активного в данный момент узла кластера.

1 стартмани

22.12.2019    2614    2    AlexSTAL    2    

Ускорение типовой 1С

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Упрощаем журнал регистрации.

5 стартмани

09.12.2019    9177    2    Mari_Kuznetzova    48    

Универсальная обработка (УФ) для работы с журналом регистрации в формате SQLite через ODBC

Универсальные обработки Журнал регистрации v8 v8::УФ 1cv8.cf Абонемент ($m)

Обработка позволяет подключиться к журналу регистрации в формате SQLite (.lgd) через ODBC и прочитать его события в привычном виде, как в стандартном журнале.

1 стартмани

27.11.2019    2719    6    Spartacus    5    

Включение и выключение регистрации отказа в доступе если "У пользователя не достаточно прав над операцией с базой данных". Промо

Информационная безопасность Журнал регистрации v8 1cv8.cf Абонемент ($m)

Включает (выключает) регистрацию событий отказа доступа в журнале регистрации.

1 стартмани

12.01.2011    33026    63    nexts    32    

История изменений реквизитов документов

Журнал регистрации v8 БП2.0 УТ10 УУ Абонемент ($m)

Кратко если, то можно посмотреть, кто менял и когда сумму, цену, количество в документах.

4 стартмани

22.11.2019    2696    2    sss999    10    

Управление историей изменения данных

Журнал регистрации v8 1cv8.cf Россия Абонемент ($m)

Данная обработка позволяет включить версионирование объектов истории изменения данных.

10 стартмани

09.11.2019    4410    1    D_E_S131    3    

Анализ загруженности сотрудников по Журналу регистрации

Журнал регистрации Учет рабочего времени v8 v8::УФ 1cv8.cf Беларусь Россия Абонемент ($m)

Отчет позволяет оценить активность сотрудников (пользователей 1С) согласно данным, полученным из Журнала регистрации.

1 стартмани

29.10.2019    3831    28    adeptis    0    

Статистика работы пользователя Промо

Журнал регистрации Управленческие Статистика базы данных Учет рабочего времени Учет рабочего времени v8 1cv8.cf Абонемент ($m)

Анализ работы сотрудников - важные составляющие функционирования компании. Безусловно, руководитель может самостоятельно оценивать труд работников, деятельность которых как на ладони, стоит лишь взглянуть на поступление денег на банковский счет фирмы. Сложнее оценить работу сотрудников, которые не имеют прямого влияния на бизнес-результат: это бухгалтеры, кадровые работники, менеджеры.

3 стартмани

17.07.2011    44289    330    imozg    63    

Версионирование объеков УТ 10 с возможностью перехода к сохраненной версии

Журнал регистрации Универсальные функции v8 УТ10 Абонемент ($m)

Версионирование объектов УТ 10.3 с возможностью перехода к сохраненной версии. Взята стандартная система версионирования УПП, добавлена возможность восстановления ранее сохраненной версии.

1 стартмани

28.10.2019    5320    21    art.prm    8    

История изменений за период УТ 11

Журнал регистрации Администрирование данных 1С v8 УТ11 Россия Абонемент ($m)

Отчёт позволяет за выбранный период посмотреть, кто и в каких документах изменял важные реквизиты ! Отчёт не показывает всё подряд, а только важные вам (выбранные) реквизиты.

1 стартмани

25.10.2019    4906    35    SergeyRomanov    7    

История версий объектов для УФ

Журнал регистрации Обработка документов Обработка справочников v8 v8::УФ 1cv8.cf Россия Абонемент ($m)

Универсальная независимая система хранения и анализа истории изменений справочников и документов. Предназначена для любых конфигураций 1С V83 ((8.3.9.1818) и выше) в режиме управляемого приложения.

1 стартмани

17.10.2019    10275    26    dmitrydemenew    22    

Просмотр документов, измененных задним числом Промо

Журнал регистрации v8 УТ10 Россия Абонемент ($m)

Редактирование документов в 1С, проведенных задним числом, бывает необходимо для исправления ошибок в учете, но также является распространенным способом воровства в магазине. Поэтому важно максимально ограничить работу задним числом.

2 стартмани

12.08.2015    26262    53    ПерваяСистема    16    

Быстрый поиск в журналe регистрации 1С *.lgd

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Обработка для быстрого поиска данных в журнале регистрации 1С SQLite (.lgd). 8.3.15.

1 стартмани

10.10.2019    5267    13    andboss    3    

Сложнейшая загрузка журнала регистрации в ElasticSearch (или делаем настоящий ETL)

Журнал регистрации v8 Россия Абонемент ($m)

Году в 2017ом возникло (наверное странное на тот момент) желание перегрузить журнал регистраций 1С в ELK. Чтобы журналы место на диске не съедали, 1С программисты забыв поставить фильтр сервер не подвешивали, все журналы лежали в одном месте да и можно было безопасно туда ответственных пользователей пускать, чтобы сами смотрели кто какой документ поправил.На предложение написать выгрузку сразу из 1С программисты благополучно забили ("ой на это минимум месяц", "у нас срочные бизнес-фичи" и т.д. и т.п.). Зато попалась статья от Aleksey.Bochkov (https://infostart.ru/public/182820/). Ну и решили мы все это запилить без 1С программистов. Во что влезаем я тогда еще не понимал. А вылилось почти в год допилок (хорошо хоть в фоновом режиме) в цельный ETL с использованием C#, T-SQL и прочими делами.

1 стартмани

27.09.2019    8193    6    DonAlPatino    33    

Удаление журнала регистрации с отбором

Журнал регистрации v8 1cv8.cf Россия Абонемент ($m)

Обработка очистки журнала регистрации с отбором по пользователю и периоду для обычного приложения.

2 стартмани

05.09.2019    3531    11    doctorov_s    4    

Получение запросом данных журнала регистрации хранящегося в SQLite Промо

Практика программирования Журнал регистрации v8 1cv8.cf Абонемент ($m)

В статье показано как, используя новый функционал платформы, получать данные из журнала регистрации привычным запросом.

1 стартмани

17.09.2014    62163    163    rtnm    38    

Журнали2Ст: сверхбыстрый журнал регистрации 1С

Журнал регистрации v8 Абонемент ($m)

Строит внешний индекс по журналам регистрации любого формата и делает поиск в них фантастически быстрым. Дополнительно ничего не нужно настраивать! Журналы Регистрации остаются на своём месте и не занимают дополнительного, а сервис Журнали2Ста обеспечивает их постоянную индексацию.

1 стартмани

22.08.2019    9457    71    MrWonder    63    

Отчет по изменению документа

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Данная обработка покажет, кто изменил определенный документ.

1 стартмани

30.07.2019    3622    7    ranis888    6    

Отправление событий журнала регистрации в приватный / публичный канал Telegram в виде сообщений и файлов

WEB Журнал регистрации v8 v8::УФ Абонемент ($m)

Данная конфигурация позволяет получать события журнала регистрации в телеграм в виде сообщений и файлов.

1 стартмани

29.07.2019    3907    6    serg-lom89    0    

Монитор журнала регистрации Промо

Журнал регистрации Администрирование данных 1С WEB v8 1cv8.cf Абонемент ($m)

Позволяет в режиме реального времени отслеживать активность пользователей, накапливать и оповещать о возникновении ошибок, которые попадают в журнал регистрации

2 стартмани

29.06.2015    39325    106    andy23    49    

Как отправить ошибки из журнала регистрации на почту? Продолжение. Отдельная база

Журнал регистрации v8 Абонемент ($m)

Добавлена отдельная база: возможность указания списка баз, из которых нужно собирать ошибки, возможность указания почтового профиля для каждой базы.

1 стартмани

27.05.2019    3890    3    wowik    0    

Запуск встроенного в платформу механизма История данных для ленивых

Журнал регистрации v8 1cv8.cf Абонемент ($m)

В последних версиях платформы 1С появился замечательный механизм Истории данных. Если кратко, механизм позволяет сохранять историю, просматривать, сверять и самое приятное, это восстанавливать любую версию объекта. А самое главное, чтобы это заработало, не нужно продумывать, писать и поддерживать тонны кода, все уже сделано за нас... Возникает вопрос: Как запустить встроенный в платформу механизм Истории данных ничего не кодируя?

1 стартмани

24.05.2019    5809    6    _root    13    

Отчет для просмотра отчетов, которые запускали пользователи

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Отчет отвечает на вопрос: кто, и как часто формирует отчеты. Было протестировано на Управлении торговлей, конфигурация 11.4.1.273.

1 стартмани

18.05.2019    4300    7    Mari_Kuznetzova    3    

Автоматизация анализа файлов технологического журнала Промо

Журнал регистрации v8 Россия Абонемент ($m)

В арсенале каждого уважающего себя 1С-ника, занимающегося оптимизацией быстродействия, всегда есть ряд собственных методик и инструментов, которые позволяют на основе наблюдений за системой понять, что именно происходит и в каком направлении работать над улучшением. В этой публикации я хотел бы поделится собственным инструментом для разбора файлов технологического журнала 1С и показать несколько примеров получения наиболее ценной информации.

1 стартмани

14.02.2012    29438    34    Aleksey.Bochkov    16    

Подсистема для выгрузки, быстрого поиска и анализа журнала регистрации 1С в Elasticsearch

Журнал регистрации Поиск данных v8 1cv8.cf Абонемент ($m)

Elasticsearch - это opensource решение для очень быстрого поиска данных в больших массивах информации. Использование этого решения позволит решить проблемы с поиском и анализом больших объемов информации журнала регистрации. Протестировано на платформах начиная с 8.3.10.2580.

5 стартмани

15.05.2019    7379    23    Nikolo17    12    

История данных [Расширение] УТ11

Журнал регистрации v8 УТ11 Абонемент ($m)

Расширение позволяет хранить (восстанавливать) историю данных прикладных объектов (справочников, документов, движений регистров по документам).

10 стартмани

06.05.2019    4176    3    noprogrammer    6    

История выполнения фоновых заданий в виде диаграмм (версия 6.5.21)

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Отчет предназначен для получения из журнала регистрации данных об истории выполнения фоновых заданий и отображения их в виде диаграмм.

1 стартмани

26.04.2019    5826    25    sertak    25    

Просмотр и анализ журнала регистрации (отчет на СКД) Промо

Журнал регистрации v8::УФ v8::СКД 1cv8.cf Абонемент ($m)

Отчет на базе системы компоновки данных (СКД) для просмотра записей журнала регистрации. В отчете можно использовать возможности СКД для вывода отчета в различных вариантах (список, таблица, диаграмма). Поддерживаются все возможности журнала регистрации (фильтры, получаемые колонки, максимальное количество записей).

5 стартмани

25.07.2013    59989    535    YPermitin    52    

Журнал регистрации по навигационной ссылке

Журнал регистрации v8 v8::УФ 1cv8.cf Абонемент ($m)

Обработка получает записи журнала регистрации только по указанной навигационной ссылке (либо просто по ссылке).

1 стартмани

13.03.2019    4360    2    Смешной 1С    0    

Сообщение об ошибках журнала регистрации по электронной почте

Журнал регистрации Email v8 1cv8.cf ЗКГУ3.0 БП3.0 ЗУП3.x Россия Абонемент ($m)

Универсальная внешняя обработка по выгрузки ошибок журнала регистрации по электронной почте. Может работать как отдельно по команде, так и быть загруженной в справочник Дополнительные отчеты и обработки и запускаться по настраиваемому расписанию.

2 стартмани

04.03.2019    3238    5    ig-efrem    2    

Запрос к Журналу регистрации

Журнал регистрации v8 ЗКГУ3.0 Россия Абонемент ($m)

Краткая форма получения сведений из Журнала регистрации - с детализацией событий до минут

1 стартмани

03.03.2019    3819    9    mnb-next    2    

Подсистема: История изменений реквизитов объекта, в том числе табличных частей. 1с 8.2. Промо

Журнал регистрации Практика программирования v8 1cv8.cf Абонемент ($m)

Данная подсистема предназначена для хранения истории изменений реквизитов шапок и табличных частей документов и справочников. подсистема основана на записях изменений реквизитов в регистр сведений? с указанием автора и времени изменения.

1 стартмани

12.11.2012    38787    75    allert73    15    

История версий объектов

Журнал регистрации v8 1cv8.cf Россия Абонемент ($m)

Подсистема для записи и хранения изменений любых объектов ссылочного типа. Формирует хронологию работы пользователей с базой данных. Позволяет произвести быстрый поиск версии объекта БД по указанным параметрам и восстановить данные выбранной версии. Протестирована в конфигурации ЗУП, редакция 2.5 на платформе 1С:Предприятие 8.2 (8.2.19.130). Обычные формы. В поставке выгрузка тестовой демонстрационной базы и файл CF c объектами подсистемы.

1 стартмани

22.02.2019    5140    10    dmitrydemenew    3    

Рассылка событий журнала регистрации

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Отправка событий журнала регистрации на почту с возможностью группировки и фильтрации.

1 стартмани

07.02.2019    3691    2    Just4Fun    0    

Как отправить ошибки из журнала регистрации на почту?

Журнал регистрации v8 УПП1 Абонемент ($m)

Процедуры отправки ошибок из журнала регистрации на почту. Журнал регистрации выгружается в файл Excel, далее прикрепляется к письму. Для отправки писем создано регламентное задание.

1 стартмани

06.02.2019    7848    1    wowik    0    

Журнал регистрации на СКД (полностью программная реализация) Промо

Журнал регистрации v8 1cv8.cf Абонемент ($m)

Очередная вариация на тему отчет по журналу регистрации на СКД

1 стартмани

22.08.2013    22528    67    Жолтокнижниг    6    

Монитор активных пользователей по журналу регистрации

Журнал регистрации v8 1cv8.cf Россия Абонемент ($m)

Монитор активности пользовательских сеансов с возможностью завершить сеансы и соединения. Платформа 1С: 8.3.12.1685. БСП не используется

1 стартмани

01.02.2019    3606    4    mefalcon    2    

Ошибки, предупреждения и прочее из журнала регистрации на почту и в Telegram автоматически (БП 3, ЗУП 3.1, УТ 11.4, ERP 2.4, Розница 2.2)

Журнал регистрации Поиск данных Тестирование и исправление Email v8 Розница УНФ ERP2 ЗКГУ3.0 БП3.0 УТ11 ЗУП3.x Абонемент ($m)

Данная обработка позволяет анализировать журнал регистрации с пользовательским отбором (4 критерия отбора) и высылать отчет пользователю с заданной периодичностью на электронную почту или в Телеграм. Возможно использовать как регламентное задание (автоматическая отправка отчетов по времени), непосредственно запускать из клиента, а также выгружать в форму обработки отфильтрованные данные из журнала регистрации без отправки.

2 стартмани

28.01.2019    7662    31    Redinternational    3    

Удаление одинаковых версий в журнале регистрации, очистка записей по неверсионированным объектам

Чистка базы Журнал регистрации v8 1cv8.cf Украина Абонемент ($m)

Обработка также позволяет очищать лишние записи версий объектов, которые все-таки остаются для регистрации в журнале регистрации. Также возможна очистка по неверсионированным в журнале регистрации объектам.

2 стартмани

09.01.2019    3382    1    t_yuri    0    

Архивирование и удаление файлов журнала регистрации на Linux-сервере

Журнал регистрации v8 Абонемент ($m)

Bash-скрипт для архивации и удаления файлов Журнала регистрации в старом формате на Linux-сервере 1С Предприятия.

1 стартмани

29.11.2018    4730    0    Sloth    4