<p class="" data-start="299" data-end="314">Hallo allemaal,

<p class="" data-start="316" data-end="711">Ik ben de laatste tijd aan het experimenteren met <strong data-start="366" data-end="385">AI-taalmodellen voor lokaal gebruik en ben gestuit op een interessant open-source project genaamd <strong data-start="468" data-end="510">DeepSeek. Het is een geavanceerde chat- en taalmodeloplossing die, net als ChatGPT, natuurlijke taalverwerking mogelijk maakt &ndash; en het mooiste: er zijn versies die via <strong data-start="670" data-end="680">Docker lokaal gedraaid kunnen worden.

<p class="" data-start="713" data-end="873">Ik vroeg me af of er hier mensen zijn die ervaring hebben met het draaien van grotere AI-modellen op hun Synology NAS via Docker of container station? Denk aan:

<ul data-start="875" data-end="1103">
<li class="" data-start="875" data-end="947">
<p class="" data-start="877" data-end="947">Hoe is de performance op modellen zoals DeepSeek-mini of andere LLM&rsquo;s?

</li>
<li class="" data-start="948" data-end="1029">
<p class="" data-start="950" data-end="1029">Zijn er specifieke Docker-images of CPU/ram-instellingen die aan te raden zijn?

</li>
<li class="" data-start="1030" data-end="1103">
<p class="" data-start="1032" data-end="1103">Werkt het stabiel, bijvoorbeeld in combinatie met reverse proxy op DSM?

</li>
</ul>
<p class="" data-start="1105" data-end="1394">Waarom DeepSeek?<br data-start="1121" data-end="1124" /> Het is gratis, open source, en beschikbaar in meerdere talen &ndash; waaronder Turks en binnenkort hopelijk meer. Voor wie nieuwsgierig is: de webversie is ook toegankelijk via DeepSeekT&uuml;rk&ccedil;e, voor wie eerst wil proberen voordat je lokaal draait.



<p class="" data-start="1396" data-end="1516">Lijkt me gaaf om ervaringen uit te wisselen over het lokaal draaien van AI-modellen op NAS! Wie heeft het al geprobeerd?