Azt, hogy egy mikroszkóppal mekkora nagyítás érhető el azt nem az optikus ügyessége, hanem fizika törvényei határozzák meg. Pontosan a Rayleigh féle összefüggés, mely azt mondja ki, hogy az a távolság, aminél közelebbi két pontot nem tudunk elkülöníteni arányos az alkalmazott fény hullámhosszával. [Pontosabban a vizsgálatra használt hullám hullámhosszával, hiszen az elektron mikroszkópokban nagy energiájú elektronokat használnak képalkotásra, akiknek nagy energiájuk miatt rövid a hullámhossza és ezért lehet velük nagy nagyításon is éles képet kapni.] Az összefüggés oka a kvantummechanika furcsaságaiból adódik (szóródás, határozatlanság): az apró méretek tartományában, a fotonok és atomok szintjén a kölcsönhatások valószínűségi alapon működnek és a részecskék hullámtermészete meghatározóvá válik. Ezért egy klasszikus képalkotó fénymikroszkóp felbontóképessége a látható fény hullámhosszával (380-750nm) összemérhető, legjobb esetben 0.2mikrométer. Ezzel vékonyabb dendriteket és axonágakat még épp látni, de finomabb felbontás nem érhető el.

De mégis…. a fizikusok és mérnökök ravaszkodásai, az optikai és számítástechnikai módszerek fejlődése számos módját tette lehetővé, hogy kijátsszuk ezt a törvényt.
A konfolkális mikroszkópia egy viszonylag egyszerű trükkel, ha nem is jelentősen, de javít a képen.

Az optikai képalkotáshoz lencséket használnak. Egy elméletileg tökéletes lencse a tárgy egyetlen pontjából érkező fénysugarakat a kép egyetlen pontjába vetíti. De, mint a világban sok mindenből, lencséből sincs tökéletes. Ráadásul egy mikroszkópban két-három lencsecsomag van. Ehhez még hozzáadódik, hogy a fény míg eljut a tárgytól a képig szóródik azon a közegen, amiben terjed. A biológiai mintákban, mivel sokféle anyag nagyon kis léptékben összesűrített keverékei, ez a szóródás kimondottan erős. Mindezek a hibák egy mikroszkópban kétirányú szóródást eredményeznek. Egyrészt a fókuszpontba nem csak a tárgytól érkezik fény, hanem annak környezetéből, másodrészt, fordítva a tárgy képe nem csak a fókuszpontba képződik le, hanem köré, elé és mögé is. Ezért egy éles pont képe elmosódottan érkezik a szemünkbe vagy a kamerába. A konfokális mikroszkóp legegyszerűbb formájában a „spinning disk” azaz forgó korong mikroszkópban azt a trükköt használják, hogy a mintát egy a tárgy közelében elhelyezett kis lukon keresztül világítják meg és egy ugyanilyen kis lukat mozgatnak összehangoltan a kialakuló kép síkjában. Az első maszk letakarja a tárgyat megvilágító fénykúp zavaró részét, míg a második maszk pedig csak azt a fényt engedi át, aminek pontosan a mintapontból kell érkeznie és kizárja azt, ami a környezetéből jutna a detektorba. Ha a két maszkot a pici lukakkal összehangoltan és a mintát soronként letapogatva mozgatjuk, egy élesebb képet kapunk. Ráadásul mivel a szórt fény nagyrésze a megvilágított tárgy síkja előttről és mögöttről származik, ez az eljárás a 3D mintát 2D síkonként képes letapogatni. A vizsgálat során síkról-síkra mozogva 3Dben tudjuk letapogatni a mintát és így a 2D pixelek (négyzetek) helyett 3D voxeleket (kockákat) kapunk. Az így felvett térbeli képekből utólag számítógéppel tetszőleges síkokat vághatunk ki. Ugye a felbontás elméleti korlátját itt úgy játsszuk ki, hogy plusz információt viszünk a rendszerbe: tudjuk, hogy az a foton, amit a képpontban mérünk melyik pontról eredt. A módszer neve - konfokális, azaz con-focal, azaz együtt fókuszált- erre utal. A legtöbb esetben fluoreszcens mikroszkópiát használnak, hiszen itt csak a vizsgált elemek világítanak és jelentősen kevesebb a zavaró fény.
 A konfokális mikroszkópok fejlettebb formájában a tárgyat letapogató maszk helyett lézer fénnyel pásztáznak (elvileg a lézernyaláb már önmagában is keskeny, de tovább fókuszálható) és egy apró nyílással (pinhole) korlátozzák, hogy honnan érkezhet fény a detektorba. A konfokális mikroszkóp, „viszonylag” olcsó volta miatt lassan szintén a neuroanatómusok rutin képalkotó eszközévé válik. A felbontás javulása nem jelentős, de lehetővé teszi finomabb idegsejt nyúlványok, például dendrittüskék megjelenítését. Ami fontosabb, hogy gyorsan és hatékonyan lehet 3Dben letapogatni az idegsejteket, ez pedig jelentősen megkönnyíti szerkezetük 3D rekonstrukcióját, akár automatikusan is.

Másik előnye, hogy több színű fluoreszcens festéket használva jól tanulmányozható sejtnyúlványok és különböző molekulák egymáshoz viszonyított térbeli elhelyezkedése.
 
A konfokális mikroszkópián is sikerült még egyet csavarnia a fizikusoknak és mérnököknek, így jött létre a két és sok-foton mikroszkópia, mely tovább javította fénymikroszkópia felbontását. Ez is egyfajta fluoreszcens mikroszkópia és a konfokalitás elvéhez hasonló módon működik, azaz egy megvilágított ponttal pásztázza a mintát. De egy ravasz trükkel nagyon kicsire tudja zsugorítani az egyszerre megvilágított terület méretét és ezáltal javítja a kép felbontását.
   
A fluoreszcens mikroszkópiánál írtuk, hogy ott a festékmolekula elnyel egy jól meghatározott energiájú, és ezért meghatározott hullámhosszú, azaz színű fotont és egy annál kicsivel kisebb energiájú, hosszabb hullámhosszú, a szivárvány vörös vége felé eltolódott színű fotont bocsájt ki. A festéket azonban úgy is lehet gerjeszteni pontosan fele akkora energiájú (azaz vörösebb) de nagyon erős fénysugárral világítjuk meg. A nagyon erős nyalábban annyi foton van, hogy egyszerre két félenergiájú foton is eltalálhatja a festékmolekulát és ezáltal az gerjesztődik. De miért vacakoljunk ezzel? Minél alacsonyabb hullámhosszúságú (alacsonyabb energiájú) egy foton, annál kisebb mértékben szóródik a mintában. Ezért egyrészt mélyebbre tud hatolni egy mintában, másrészt nem melegíti fel és ezért nem károsítja annyira. A másik jelenség a fontosabb: egy fókuszálatlan fénnyalábban nem elég erős a fény intenzitása, hogy ott a fluoreszcens festékmolekulák gerjesztődjenek és fényt bocsátsanak ki. Viszont, ha a fénysugarat fókuszáljuk, akkor a fókuszponthoz egyre közelebb kerülve egyre nagyobb lesz a fotonok mennyisége egy térrészben (hiszen ugyanannyi foton van a nyalábban, csak sokkal kisebb helyre szorítva).

Megfelelően beállítva a fénynyaláb erősségét elérhető, hogy csak az elméletileg végtelenül kicsi fókuszpontban induljon be a két vagy többfotonos festék gerjesztés és ezáltal a gerjesztett terület nagyon kicsi lesz, a letapogatást nagyon finom felbontásban tudjuk elvégezni. A másik trükk, hogy a kibocsájtott fotonok közül nem csak azokat tudjuk elcsípni, akik az objektív felé mennek, hanem érzékelőkkel a mintát minden irányból körbevehetjük és így a műszer érzékenysége többszörösére nő. Ha a nyalábintenzitás kellően magas, nemcsak fotonpárral, hanem több, mondjuk három, harmad energiájú fotonnal is gerjeszthetjük mintánkat, tovább csökkentve ezzel a minta károsodását.
Ahhoz, hogy ilyen fényintenzitásokat lehessen elérni nagyon speciális és nagyon drága lézerrendszerek szükségesek, ahol egy gerjesztő lézer fényét táplálják bele egy speciális kristályba, mely a folyamatosan beáramló energiát femtosecundumos (a másodperc 1015-öd része, ezalatt a fény 0,3 nanométert tesz meg) időablakba sűrítve egyszerre adja ki. Egy ilyen rendszer ára, a megfelelő mikroszkóppal együtt manapság 200 millió forint körül indul. Cserébe lehetővé teszi azt, hogy élő agyszövetben is meg lehessen figyelni a biológiai jelenségeket igen jó térbeli és viszonylag jó időbeli felbontással.

A képen egyetlen denditág szerkezetének változását követték 8 napon keresztül. Látható, hogy a tanulás során a denriten új tüskék jelentek meg és régiek tűntek el.

Hogy a 2-foton mikroszkópiát alkalmazó képalkotó eljárásokat az agyműködés felderítésében hogyan lehet használni, azt majd az optogenetikáról szóló bejegyzésben mutatjuk be. Lehet például látni, hogy a gondolkodó agyban hogyan villannak fel egy-egy pillanatban az éppen működő idegsejtek.

Míg a konfokális mikroszkópiával a felbontást a mikrométer negyedéig (~200nm) sikerült kitolni a szuperreszolúciós mikroszkópok ezt még egy nagyságrenddel tolták el a ravasz trükkök egy másik kategóriáját alkalmazva. Ezekkel a műszerekkel már egyedi molekulák elhelyezkedését, sőt akár élő szervezetbeli mozgását is követni lehet. Ezek a mikroszkópok bizonyos szempontból az elektronmikroszkópok helyett olcsóbb és egyszerűbb megoldásokat nyújtanak.

Működésük két trükkön alapul:
Az egyik trükk a STED (stimulated emission depletion) mikroszkópia. Itt egy ravasz optikai rendszerrel a fluoreszcens festékek azon tulajdonságát használják ki, hogy míg a festéket egy adott hullámhosszúságú fénnyel gerjeszteni lehet egy másikkal megakadályozható a molekula fénykibocsájtása. Ha egy egyszerű gerjesztő fénysugárral világítjuk meg a mintát, akkor a kép bal oldalán látható területről kapunk jelet. Ha ezzel egyidőben a kioltó fény ravaszul megformát (középen sötét) fénynyalábjával vesszük körül a gerjesztő sugarat (a kép közepén), akkor a fénykibocsájtás sokkal pontosabban lokalizált (jobb oldali kép) és ezáltal a kép felbontása jelentősen javul, a konfokális felbontás 200nm-éről 50nm-re.

Ezzel már nagyobb fehérjestruktúrák elhelyezkedését lehet tanulmányozni.

A STORM (stochastic optical reconstruction microscopy) szintén a fluoreszcens festékek egyik speciális tulajdonságát használja ki. Ha a festékmolekulát megfelelő módon világítják meg, akkor ismétlődően be, majd kikapcsol, azaz villog. Ezt a jelenséget a megfelelő szintre beállítva elérhető, hogy a mikroszkóp látóterében található egyedi molekulák egymástól elkülönülve legyenek bekapcsolva. Így az egy időablakon belül érkező fotonokról tudni lehet hogy ugyanaz a molekula bocsájtotta ki. Ugyan a fotonok a kvantummechanika által megszabott szórási szabályok szerint elszórva érkezbek, de ha az ugyanazon molekulából érkező sok foton térbeli helyzetét számítógéppel kiátlagoljuk, 20nm pontossággal azonosíthatjuk a molekulák helyzetét és nagyon pontosan vizsgálhatjuk kölcsönhatásaikat.

Intézetünkben ilyen mikroszkópokat használva azonosították például, hogy a gátlósejtek axonterminálisaiban pontosan hol helyezkednek el a cannabis receptorok, melyek a gátló szinaptikus átvitel hatékony modulátorai.
 

A zölddel jelölt sejtet a cannabis 1-es receptorát hordozó gátlósejt axonterminálisok veszik körül (a). A kinagyított részleten (b) látszik ahogy egy piros axonterminális szinapszist alkot a zöld sejten. Ez a kép mivel "csak" konfokális fluoreszcens mikroszkópiával készült sok részletet nem árul el a cannabis receptorok eloszlásáról. Ha ugyanazt az axonvégződést STORM mikroszkópban vizsgáljuk (c) jól kivehetők az egyes cannabis receptor molekulák (lila pontok) és az is, hogyan helyezkednek el a szinapszishoz képest, melynek helyzetét türkiz pontok jelzik.

Hogy merre lehet még a felbontásban (nagyításban) továbbmenni azt az elektronmikroszkópokról szóló bejegyzésünkben tudhatjátok meg.