현대 사회에서 에너지 효율 및 시각적 효과를 동시에 만족시키는 기능성 소재에 대한 수요가 증가함에 따라, 이색성(dichroic) 특성을 갖춘 광학 코팅은 건축, 자동차, 태양전지, 디스플레이 등 여러 분야에서 주목받고 있다[1-3]. 여기서 이색성이란 파장이나 편광에 따라 빛을 분리해 내는 특성을 뜻하는데, 특히 빛의 파장에 따라 선택적으로 반사(reflection)와 투과(transmission)가 가능한 이색성 코팅은 광필터, 거울, 빔스플리터 등 다양한 광부품으로 활용이 가능하다. 이러한 이색성 코팅으로는 유기 염료, 무기 나노 입자, 다층 박막, 액정 등 다양한 물질이 주로 쓰이는데 이 중 유기 염료는 코팅이 간단하고 저렴하게 대면적 응용이 가능하다는 장점으로 주목을 받는다. 반면, 유기 염료 물질 내부 전자 전이 에너지 근처에서 흡수되지 않은 빛만 반사되므로 반사와 투과가 모두 중요한 빔스플리터와 같은 광부품에 응용이 어렵고, 흡수 파장이 고정되어 있다는 한계가 있어 분자 물질의 배향에 따른 이방성을 활용한 코팅에 대해서 주로 연구되어 왔다[4]. 그런데 최근 들어, 고흡수성 엑시톤 유기 염료가 갖는 강한 엑시톤(exciton) 흡수 파장 근처에서 물질이 광학적으로 금속성을 띄고 금속에서 관측되는 표면 플라즈몬 폴라리톤(surface plasmon polariton, SPP)과 유사한 표면 엑시톤 폴라리톤(surface exciton polariton, SEP)이 여기되는 것이 보고되었다[5, 6]. 무기 물질의 경우 와니어-모트(Wannier-Mott) 엑시톤 결합 에너지가 상온보다 훨씬 작기 때문에 표면 엑시톤 폴라리톤을 관측하기 위해서는 저온 실험이 필수적이지만 유기 물질 내 프렌켈(Frenkel) 엑시톤의 높은 결합 에너지는 이러한 엑시톤에 의한 광학적 특성을 실온에서도 관측 가능하게 한다[7, 8]. 고흡수성 유기 염료가 갖는 이런 고유한 광학적 특성을 활용하면 기존 유기 염료와는 차별된 새로운 방식으로 빛을 조절할 수 있을 것이라 생각된다[9].

본 연구는 고흡수성 엑시톤 유기 염료를 이용하여 파장에 따른 광학적 이색성을 구현하는 코팅 박막을 개발하는 것을 목표로 한다. 특히, 고흡수성 유기 염료가 갖는 광학적 금속성을 활용하여 두께별로 이색성이 어떻게 발현되는지를 광학 시뮬레이션으로 확인하고 이를 실험적으로 구현하였다. 나아가 빔스플리터나 이색성 거울 등으로 활용을 위해서 입사각에 따라 이색성에 미치는 영향을 확인함으로써, 광부품으로서의 응용 가능성을 탐구하였다. 이를 통해 유기 염료를 활용한 새로운 광학적 성능을 가진 이색성 코팅 기법을 제시하고자 한다.

(5,6-dichloro-2-[[5,6-dichloro-1-ethyl-3-(4-sulfobutyl)benzimidazol-2-ylidene]propenyl]-1-ethyl-3-(4-sulfobutyl)benzimidazolium hydroxide, inner salt, sodium salt) (TDBC, Few Chemicals)를 1–4 wt% 농도로 탈이온수(deionized water)에 녹인 용액을 세제, 아세톤, 이소프로판올로 차례대로 세척된 슬라이드 글라스 기판 위에 2000–3000 rpm으로 스핀-코팅하여 TDBC 박막을 제작했다. 박막의 젖음성(wetting)을 돕기 위해 코팅 전에 산소 플라즈마 처리를 200 W에서 5분 동안 진행했다. 제작된 TDBC 박막은 분광광도계(U-3900, HITACHI)를 통해 반사와 투과된 빛의 세기(intensity)를 측정했고, 반사 측정에는 5°의 입사각이, 투과 측정에는 수직 입사각이 각각 사용됐다.

FDTD Solutions (Ansys Lumerical)를 활용해서 박막의 투과와 반사 스펙트럼의 시뮬레이션을 수행했다. 시뮬레이션 크기는 x축과 y축 방향으로 anti-symmetric과 symmetric 경계조건을 사용했으며, 빛의 진행 방향인 z축 방향으로는 perfectly matched layers (PML) 경계조건을 사용하여 xy-평면에 무한한 평면의 TDBC 박막 구조를 만들었다. 모든 시뮬레이션은 굴절률이 1.5인 유리 기판 위에 TDBC 박막이 올라간 구조로 주변 매질은 굴절률 1인 공기를 사용했다. BFAST (broadband fixed angle source technique) 기법을 활용하여 특정 각도로 입사하는 p-편광된 평면파를 광원으로 사용했고, 투과 및 반사 모니터를 각각 샘플의 위와 아래에 설치해서 차례대로 투과(T)와 반사(R) 스펙트럼을 구했다.

Figure 1은 본 연구에서 구현하고자 하는 이색성 코팅의 주요 개념을 설명한다. 연구에 사용된 유기 제이-응집(J-aggregate) 물질인 시아닌(cyanine) 염료 TDBC의 복소 이방성 유전율이 Fig. 1(a)와 1(b)에 나와있다. 590 nm 부근에서 매우 강한 엑시톤 공명에 의한 흡수는 전이 쌍극자 모멘트 방향으로 매우 큰 유전율의 허수부를 갖게 하고, 이는 크레이머스-크로닉(Kramers-Kronig) 관계에 의한 결과로 유전율 실수부의 커다란 변동을 만든다. 이 변동이 유기 물질의 배경 유전율 값보다 클 경우 물질의 유전율의 실수부가 음의 값을 가지는 영역(Fig. 1(a)에서 연한 파란색으로 칠해진 영역)이 존재할 수 있는데, 거기서 물질은 금속과 같이 입사되는 전자기파를 반사할 수 있는 광학적 특성을 갖는다. 이러한 음의 유전율 영역은 유전율이 영이 되는 두 지점인 영-근접-유전율(epsilon-near-zero, ENZ)과 폴-근접-유전율(epsilon-near-pole, ENP) 사이 영역으로 정의되고 TDBC 물질의 경우 Fig. 1(a)에서 확인할 수 있듯이 510–590 nm의 파장 영역에 해당된다. 또한 TDBC 분자가 제이-응집을 이룰 경우 그 배향 구조에 따라 전이 쌍극자 모멘트가 면내 방향으로 정렬되는데 이에 따라 면내(in-plane) 방향 유전율에서는 이러한 음의 유전율 영역이 나오는 반면, 면외(out-of-plane) 방향 유전율에서는 음의 유전율 영역이 등장하지 않는 특징을 갖는다 (Fig. 1(b))[10].

Figure 1. (Color online) Complex (a) in-plane and (b) out-of-plane permittivity values obtained by ellipsometry measurements[10]. Reflection (red) and transmission (navy) spectra for the TDBC thin films with thicknesses of (c) 10 nm and (d) 100 nm calculated using FDTD simulations. The light blue shadowed area represents the metallic region with the negative real part of permittivity.

Figure 1(c)와 1(d)는 FDTD 시뮬레이션을 통해 계산된 10 nm와 100 nm 두께를 갖는 TDBC 박막의 반사와 투과 스펙트럼이다. 10 nm 두께 샘플의 경우 일반적인 유기 염료 박막과 마찬가지로 반사는 흡수가 일어나는 엑시톤 공명 근방에서만 일어나는데 반해 (Fig. 1(c)), 100 nm 두께 샘플의 경우에는 반사가 음의 유전율 영역에서 전체적으로 일어나는 것을 확인할 수 있었다 (Fig. 1(d)). 이는 TDBC 박막이 특정 파장 영역의 빛을 최대 75% 이상 반사하고 나머지 영역에서는 75% 이상 투과시킬 수 있는 이색성 코팅 역할을 할 수 있음을 의미한다.

이러한 이색성 특성을 극대화시키기 위해 필요한 조건을 확인하기 위해서 FDTD 시뮬레이션을 통해 두께를 바꿔가며 반사 및 투과 스펙트럼을 확인하였다 (Fig. 2(a)와 2(b)). 얇은 두께 TDBC 박막에서는 엑시톤 공명 부근에만 제한되었던 반사가 두께가 두꺼워질수록 점진적으로 음의 유전율 영역으로 퍼지는 것을 관측할 수 있었다. 흥미롭게도 50–100 nm 두께 정도부터 음의 유전율 영역 전체에 걸쳐서 반사가 일어나게 되는데 이 때의 반사 스펙트럼은 두께를 더 두껍게 제작해도 달라지지 않고 일정한 값으로 포화(saturate)되는 것이 관측되었다. 이로부터 음의 유전율 크기에 따라 달라지는 반사를 효과적으로 관측되기 위해서는 최소한 50–100 nm 정도의 TDBC 박막 두께가 요구됨을 알 수 있다. 반면 투과 스펙트럼은 두께가 두꺼워질수록 300 nm 두께까지도 포화되지 않고, 최종적으로는 음의 유전율 영역 전체에서 투과도가 영에 가깝게 관측되었다. 반사와 투과, 흡수(absorption)의 합은 일정한 값을 가지므로 반사가 일정한데 투과가 감소했다는 것은 박막의 흡수가 증가했음을 의미하고, 이 경우 빔스플리터나 이색성 거울과 같은 응용에는 상대적으로 부적합하게 된다. 또한 엑시톤 공명 파장보다 긴 파장에서는 TDBC 물질의 유전율의 실수부가 큰 양의 값을 갖기 때문에 (Fig. 1(a)), 높은 굴절율에 의한 얇은 박막 간섭이 나타난다. 따라서 효율적인 이색성 코팅으로 응용되기 위해서는 박막의 흡수가 너무 크지 않고 반사가 없어야 하는 영역에서 얇은 박막 간섭이 최소화되는 두께를 활용하는 것이 필요한데, 이런 조건을 만족시키는 두께는 100 nm(녹색 실선) 정도로 확인되었다 (Fig. 2(a)와 2(b)). 100 nm 보다 더 얇은 50 nm(주황색 실선)나 더 두꺼운 200 nm(파란색 실선) 또는 300 nm(보라색 실선)의 경우 모두 무시하지 못할 얇은 박막 간섭이 반사와 투과 스펙트럼에 보이는 것을 확인할 수 있다. 이러한 시뮬레이션 예측이 실제 실험적으로도 동일하게 구현되는지 확인하기 위해서 용액 공정을 이용하여 제작한 다양한 두께의 TDBC 박막을 제작하여 반사 및 투과 스펙트럼을 측정하였다. 그 결과가 Fig. 2(c)와 2(d)에 나타나 있는데, 각각 시뮬레이션 결과(Fig. 2(a)와 2(b))와 매우 잘 일치하였다. 반사 및 투과가 일어나는 영역뿐만 아니라 얇은 박막 간섭에 의한 스펙트럼의 진동의 형태나 크기까지도 매우 유사함을 확인할 수 있다.

Figure 2. (Color online) Simulated (a) reflection and (b) transmission spectra for TDBC thin films with different thicknesses. Experimentally obtained (c) reflection and (b) spectra for TDBC thin films with different thicknesses. The light blue shadowed area represents the metallic region with the negative real part of permittivity.

다양한 두께의 TDBC 박막의 실제 사진이 Fig. 3에 나타나 있다. 흰 종이 위에 올려 놓은 박막(Fig. 3(a))과 흰 광원 위에 올려 놓은 박막(Fig. 3(e))의 색이 완전히 다른 것을 볼 수 있다. 이는 흰 종이 위에 있는 박막은 반사된 빛과 투과된 빛이 혼합된 색을 띄게 되고 흰 광원 위에 있는 박막은 투과된 빛의 색을 띄게 되는 것으로 설명할 수 있다. 나아가 반사 또는 투과되는 빛 만을 독립적으로 측정하기 위해 같은 박막 샘플을 광학 현미경을 통해 각각 반사 모드(Fig. 3(b)–(d))와 투과 모드(Fig. 3(f)–(h))로 관측하였다. 그 결과 반사된 빛과 투과된 빛이 완전히 다른 색인 것이 확인되었고 이는 TDBC 박막을 활용한 파장에 따른 이색성 코팅이 가능하다는 것을 직접적으로 보여주는 결과이다.

Figure 3. (Color online) (a) Photograph of TDBC films with different thicknesses on white paper and (b–d) their optical microscopic images in reflection mode. (e) Photograph of the same TDBC films on a white light source and (f–h) their optical microscopic images in transmission mode. All the microscopic images were obtained with the same scale using a 50× objective.

지금까지는 수직 입사된 빛에 대한 반사와 투과만을 살펴보았는데 빔스플리터나 이색성 거울과 같은 응용을 위해서는 입사 각도가 달라져도 이색성 코팅의 특성이 유지되는지 확인하는 것이 중요하다. Figure 4는 각 두께별로 여러 각도에서 p-편광된 빛이 입사될 때, 반사와 투과가 어떻게 되는지 FDTD 시뮬레이션을 통해 정리한 결과를 보여준다. 흥미롭게도 음의 유전율 영역에서 관측되는 반사와 투과는 모든 두께에 대해서 입사각에 큰 영향을 받지 않는 것이 확인되었고, 이는 TDBC가 이 영역에서 각도에 관계없이 이색성 코팅으로 활용될 수 있음을 의미한다. 특히 투과는 거의 입사각의 영향을 받지 않고 일정했으며 입사각이 증가함에 따라 반사만 살짝 감소했다. 그러나 엑시톤 공명보다 더 긴 파장에서 관측되는 얇은 박막 간섭의 경우 보강간섭이 일어나는 파장이 박막 내 입사각의 코사인 값에 비례하므로 입사각이 증가함에 따라 청색 편이가 일어나는 것을 확인할 수 있었다. 따라서 영이 아닌 입사각이 필요한 응용을 위해서도 마찬가지로 이러한 얇은 박막 간섭을 최소화할 수 있는 두께를 활용하는 것이 중요하다. TDBC의 경우 100 nm 두께에서 상대적으로 제한된 얇은 박막 간섭이 관측되었기 때문에 입사각에 의한 스펙트럼의 변화도 비교적 적은 것을 확인할 수 있었다 (Fig. 4(c)와 4(d)).

Figure 4. (Color online) Incident-angle-dependent (a) reflection and (b) transmission spectra for TDBC thin films with a thickness of 50 nm. Same for TDBC thin films with thicknesses of (c,d) 100 nm and (e,f) 200 nm. The light blue shadowed area represents the metallic region with the negative real part of permittivity.

본 연구에서는 고흡수성 엑시톤 유기 염료인 TDBC를 이용한 광학적 이색성 코팅 박막의 가능성을 탐구하였다. 시뮬레이션과 실험을 통해, TDBC 박막이 음의 유전율 영역에서 금속과 같이 강한 반사 특성을 보이고, 이에 따라 파장에 따른 이색성 효과를 가질 수 있음을 확인하였다. 특히 100 nm 두께의 박막이 최소화된 얇은 박막 간섭과 함께 이상적인 이색성 특성을 보였다. 또한, 입사각에 관계없이 음의 유전율 영역에서 반사와 투과 특성이 유지되는 것도 관측되었는데 이는 빔스플리터나 이색성 거울에서 요구되는 각도 무관 이색성 특성을 만족시킴을 의미한다. 본 연구에서 제안된 고흡수성 엑시톤 유기 염료를 활용한 새로운 방식의 광학적 이색성 코팅 기법은 향후 건축, 자동차, 디스플레이, 태양전지, 광부품 등 다양한 분야에서의 응용이 기대된다.

이 논문은 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원-대학ICT연구센터(ITRC)의 지원을 받아 수행된 연구입니다(IITP-2025-RS-2024-00437284).