добавлен парсер HEX с разбиением по FE; обрабатываем только строки 0x; D0→RAW; сегменты с F0→SYNC_DET (расчёт спектра и добавление в B‑scan), F4 в таких сегментах игнорируется; поддержка .csv и отложенный парсинг HEX для избежания SKIP по таймауту.

This commit is contained in:
2025-11-13 18:07:59 +03:00
parent 2a30e12551
commit 385c2a6dad
3 changed files with 108 additions and 39 deletions

106
main.py
View File

@ -155,18 +155,23 @@ def parse_hex_file(filename):
def finalize_segment():
nonlocal cur
# Приоритет выбора, что считать сегментом
if cur["F4"]:
seg_fourier.append(np.asarray(cur["F4"], dtype=float))
elif cur["F3"]:
arr = np.asarray(cur["F3"], dtype=float)
seg_fourier.append(np.sqrt(np.maximum(0.0, arr)))
# Приоритет выбора сегмента:
# 1) Если есть F0 — используем как SYNC_DET (F4 игнорируем временно)
# 2) Иначе F1+F2 → амплитуда
# 3) Иначе F4 (если нет F0)
# 4) Иначе F3 (sqrt)
# 5) Иначе D0 как RAW
if cur["F0"]:
seg_sync.append(np.asarray(cur["F0"], dtype=float))
elif cur["F1"] and cur["F2"] and len(cur["F1"]) == len(cur["F2"]):
re = np.asarray(cur["F1"], dtype=float)
im = np.asarray(cur["F2"], dtype=float)
seg_fourier.append(np.sqrt(re * re + im * im))
elif cur["F0"]:
seg_sync.append(np.asarray(cur["F0"], dtype=float))
elif cur["F4"]:
seg_fourier.append(np.asarray(cur["F4"], dtype=float))
elif cur["F3"]:
arr = np.asarray(cur["F3"], dtype=float)
seg_fourier.append(np.sqrt(np.maximum(0.0, arr)))
elif cur["D0"]:
seg_raw.append(np.asarray(cur["D0"], dtype=float))
# Сброс
@ -1097,10 +1102,20 @@ class DataAnalyzerApp:
# ОСНОВНОЙ ЦИКЛ ОБРАБОТКИ ФАЙЛОВ
# ============================================================================
def process_file_thread(self, fname, data_type, A, original_size):
"""Обработка файла в отдельном потоке."""
try:
file_time = get_file_time_with_milliseconds(fname)
def process_file_thread(self, fname, data_type, A, original_size):
"""Обработка файла в отдельном потоке."""
try:
# Если данные не были загружены в главном потоке (HEX отложен) — загрузим здесь
if A is None:
data_type, A = load_data_with_type(fname)
if isinstance(A, list):
original_size = len(A[0]) if len(A) > 0 else 0
elif isinstance(A, np.ndarray):
original_size = A.shape[0]
else:
original_size = 0
file_time = get_file_time_with_milliseconds(fname)
bscan_col = None
add_to_bscan = False
@ -1137,7 +1152,7 @@ class DataAnalyzerApp:
if add_to_bscan and bscan_col is not None and data_type != DATA_TYPE_FOURIER:
self.bscan_queue.put((bscan_col, file_time, data_type))
self.schedule_update(original_size, data_type)
self.schedule_update(original_size, data_type)
self.processed_count += 1
timestamp = datetime.now().strftime("%H:%M:%S.%f")[:-3]
@ -1166,20 +1181,37 @@ class DataAnalyzerApp:
self.process_files()
def process_files(self):
"""Обработка файлов в цикле."""
files = sorted([f for f in os.listdir() if f.endswith('.csv') or
f.endswith('.txt1') or f.endswith('.txt2') or f.endswith('.csv')])
new_files = [f for f in files if f not in self.processed_files]
print("new files:", new_files, files)
def process_files(self):
"""Обработка файлов в цикле."""
files = sorted([
f for f in os.listdir()
if f.lower().endswith(('.txt', '.txt1', '.txt2', '.csv'))
])
new_files = [f for f in files if f not in self.processed_files]
for fname in new_files:
time_start = time.perf_counter()
try:
# Быстро определим тип по первой строке (без полного чтения файла)
with open(fname, 'r') as f:
head = f.readline()
quick_type = detect_data_type(head)
if quick_type == DATA_TYPE_HEX:
# Отложенный парсинг HEX в фоне, чтобы не блокировать UI и не превышать таймаут
thread = threading.Thread(
target=self.process_file_thread,
args=(fname, DATA_TYPE_HEX, None, 0),
daemon=True
)
thread.start()
self.processed_files.add(fname)
continue
# Для остальных типов загрузим сразу и применим лимит времени
data_type, A = load_data_with_type(fname)
# Поддержка списка сегментов (HEX с FE)
if isinstance(A, list):
original_size = len(A[0]) if len(A) > 0 else 0
elif isinstance(A, np.ndarray):
@ -1194,22 +1226,22 @@ class DataAnalyzerApp:
self.skipped_count += 1
self.processed_files.add(fname)
continue
elapsed_time_ms = (time.perf_counter() - time_start) * 1000
if elapsed_time_ms > MAX_PROCESSING_TIME_MS:
timestamp = datetime.now().strftime("%H:%M:%S.%f")[:-3]
print(f"[{timestamp}] ⏭️ SKIP {fname} (load time: {elapsed_time_ms:.1f}ms)")
self.skipped_count += 1
else:
thread = threading.Thread(
target=self.process_file_thread,
args=(fname, data_type, A, original_size),
daemon=True
)
thread.start()
self.processed_files.add(fname)
elapsed_time_ms = (time.perf_counter() - time_start) * 1000
if elapsed_time_ms > MAX_PROCESSING_TIME_MS:
timestamp = datetime.now().strftime("%H:%M:%S.%f")[:-3]
print(f"[{timestamp}] ⏭️ SKIP {fname} (load time: {elapsed_time_ms:.1f}ms)")
self.skipped_count += 1
else:
thread = threading.Thread(
target=self.process_file_thread,
args=(fname, data_type, A, original_size),
daemon=True
)
thread.start()
self.processed_files.add(fname)
except Exception as e:
timestamp = datetime.now().strftime("%H:%M:%S.%f")[:-3]