La asignación exacta de la información de las moléculas biológicas a las coordenadas espaciales de las secciones de tejido es clave en el análisis omico espacial, ya que la precisión de la segmentación de los núcleos celulares determina directamente la precisión del posicionamiento de las moléculas objetivo. Sin embargo, la diversidad de formas de los núcleos celulares, la complejidad de la estructura tisular y factores como la agregación de núcleos celulares dificultan la segmentación de los núcleos celulares, y los métodos de segmentación actuales tienen dificultades para lograr una segmentación precisa de los núcleos celulares, lo que afecta luego los resultados del análisis omico espacial. Para resolver el problema mencionado anteriormente, proponemos la red de segmentación de núcleos celulares FFVM-UKAN, que integra de manera profunda características visuales superficiales para la extracción de características y redes de codificación profunda de Kolmogorov-Arnold para refinar características, así como un módulo de aprendizaje de dominio de frecuencia paralelo que captura características finas necesarias para la segmentación de las células y mejora el efecto de conexión en cascada de la red. Este método ha permitido una segmentación efectiva de núcleos celulares en el conjunto de datos público MoNuSeg, con medias de IoU y de dice respectivamente de 69,09% y 81,72%, y han alcanzado respectivamente 85,95% y 92,45% en un conjunto de datos privado. Además, una verificación en el conjunto de datos de hígado humano de 10X Genomics mostró efectos precisos de mapeo de genes y núcleos celulares, con resultados que muestran una tasa de mapeo de genes tan alta como 90,63%. Los resultados mencionados anteriormente indican que el método descrito en este artículo tiene un buen efecto en la precisión de la segmentación de núcleos celulares y la capacidad de generalización del modelo, y logra un mapeo preciso de genes y núcleos celulares en el análisis omico espacial, demostrando así el potencial de aplicación de este método en el análisis omico espacial.

segmentación de núcleos celulares; refinamiento de características en capas; aprendizaje de frecuencia; red Kolmogorov-Arnold