Uzun süre önce bankada çalışırken nereye baksam servis görüyordum. Bir süre sonra ana bankacılık uygulaması dahil pek çok ürünün kullandığı sayısız servisin yönetimi zorlaşmaya başladı. Bir takım ortak işlerin daha kolay ve etkili yönetilmesi gerekiyordu. Müşterek bir kullanıcı doğrulama ve yetkilendirme kontrolü (authentication & authorization), yük dengesi dağıtımı (load balancing), birkaç servis talebinin birleştirilmesi ve hatta birkaç servis verisinin birleştirilerek döndürülmesi (aggregation), servis verisinin örneğin XML'den JSON gibi farklı formata evrilmesi, servis geliş gidişlerinin loglanması, yönlendirmeler yapılması (routing), performans için önbellekleme yapılması (caching), servis hareketliliklerini izlenmesi (tracing), servislerin kolayca keşfedilmesi (discovery) , çağrı sayılarına sınırlandırma getirilmesi, bir takım güvenlik politikalarını entegre edilmesi, özelleştirilmiş delegeler yazılması (custom handler/middleware) , tüm uygulamalar için ortak bir servis geçiş kanalının konuşlandırılması ve benzerleri. Sonunda Java tabanlı WSO2 isimli bir API Gateway kullanılmasına karar verildi. Geçtiğimiz günlerde de yine konuşma sırasında Ocelot isimli C# ile yazılmış açık kaynak bir ürünün adı geçti ve tabii ki bende bir merak uyandı. Kanımca hafif siklet mikroservis veya servis odaklı mimari çözümlerinde düşünülebilir. Ama önce denemem lazım.
Ocelot'un oldukça doyurucu bir dokümantasyonu olduğunu da belirteyim.
Örnekte şöyle bir senaryoyu icra etmeye çalışacağım. Oyuncu detaylarını getiren, ona öneri oyunları ürün olarak sunan, kazandığı bir promosyonu sistem kaydetmesini sağlayan üç kobay servis tasarlayacağım. İstemci uygulama (Console şeklinde düşünmüştüm ama Postman bile yeterli olur) bu birkaç servis çağrısı için API Gateway'e gelecek. Yani istemciler bu servisler için aslında tek bir noktaya gelip API Gateway üzerinden konuşacaklar. İlk etapta ocelot paketini kullanan gateway uygulaması basit bir router olacak gibi duruyor. Hatta iki servis çıktısını birleştirerek döndüren bir aggregation fonksiyonelliği de katılabilir. Sonrasında daha fazla neler yapılabileceğine bir bakmam lazım.
Hayali olarak birkaç servise ihtiyacım var. Tamamını .net core web api olarak tasarlamak işime geliyor. Ancak gerçek hayat senaryosunda farklı programlama dilleri ve çatıları ile geliştirilmiş servisler kullanmak daha mantıklı olacaktır.
mkdir services
cd services
# İlk olarak kobay servislerimizi ekleyelim
# Fonksiyon başına bir servis gibi oldu ama
# amacımız bilindiği üzere Ocelot'un kurgusunu anlamak
# Oyuncu bilgilerini getireceğimiz bir servis
dotnet new webapi -o GamerService
# Oyuncuya önerilecek promosyonların çekileceği bir servis
dotnet new webapi -o PromotionService
# Oyuncunun daha önce satın almış olduğu ürünleri getirecek bir servis
dotnet new webapi -o ProductService
# ve Ocelot Servis Uygulamasının oluşturulup gerekli Nuget paketinin eklenmesi
cd ..
dotnet new web -o Bosphorus
dotnet add package ocelot
# Bu uygulamada kritik olan nokta ocelot konfigurasyonunun durduğu json dosya içerikleri
cd Bosphorus
touch ocelot.jsonÖncelikle kobay servislerin ayağa kaldırılması lazım. GamerService, ProductService ve PromotionService isimli servisleri kendi klasörlerinde dotnet run ile çalıştırabiliriz. Kobay servisler aşağıdaki adresten ayağa kalkacaktır.
GamerService -> http://localhost:6501 ProductService -> http://localhost:7501 PromotoionService -> http://localhost:8501
Sonrasında Bosphorus isimli Ocelot'u kullanan uygulamayı ayağa kaldırıp localhost:5000/19 şeklinde bir talep gönderebiliriz. İlk örnek Aggregation'ı taklit etmekte ve promosyon ekleme için yönlendirme yapmaktadır. GamerService ve ProductService'e ortak çağrı yapıp, arka planda çağırılan servis çıktılarını tek bir JSON paketinde birleştirip geriye döndürür ;)
{
"Routes": [
{
"UpstreamPathTemplate": "/eagames/player/{id}",
"UpstreamHttpMethod": [
"Get"
],
"DownstreamPathTemplate": "/player/{id}",
"DownstreamScheme": "http",
"DownstreamHostAndPorts": [
{
"Host": "localhost",
"Port": 6501
}
],
"Key": "Player"
},
{
"UpstreamPathTemplate": "/eagames/product/{id}",
"UpstreamHttpMethod": [
"Get"
],
"DownstreamPathTemplate": "/api/product/suggestions/{id}",
"DownstreamScheme": "http",
"DownstreamHostAndPorts": [
{
"Host": "localhost",
"Port": 7501
}
],
"Key": "Product"
},
{
"UpstreamPathTemplate": "/eagames/applypromo",
"UpstreamHttpMethod": [
"Post"
],
"DownstreamPathTemplate": "/applier",
"DownstreamScheme": "http",
"DownstreamHostAndPorts": [
{
"Host": "localhost",
"Port": 8501
}
]
}
],
"Aggregates": [
{
"RouteKeys": [
"Player",
"Product"
],
"UpstreamPathTemplate": "/{id}"
}
]
}Bunu test etmek için localhost:5000/19 adresine Postman ile çağrı atabiliriz.
İlk örnekteki UpstreamPathTemplate tanımlarına göre http://localhost:5000/eagames/player/23 adresine yapılan çağrı http://localhost:6501/player/23 adresine yönlendirilecektir.
Benzer şekilde http://localhost:5000/eagames/product/23 şeklinde yapılacak çağrıda http://localhost:7501/api/product/suggestions/23 adresine yönlendirilir.
PromotionService içerisinde de bir POST metodumuz vardı. Ocelot.JSON için yaptığımız tanıma göre http://localhost:5000/eagames/applypromo adresine gelen talebi, http://localhost:8501/applier adresine yönlendirmiş olacağız. İşte örnek POST içeriği ve sonuç...
{
"No":"PROMO-12345",
"Duration":30,
"GameId":102935,
"PlayerId":1
}
İkinci denemede Dockerize edilmiş bir Web API hizmetinden üç tanesini farklı portlarla ayağa kaldırıp Ocelot'un gelen talepleri bu adreslere dağıtmasını sağlamayı hedefledim. Temel amacım ocelot konfigurasyonunda gerekli dağıtım işleminin yapıldığını görmek.
# Yine Services klasöründe RewardService isimli bir .Net Core Web API var
dotnet new webapi -o RewardService
cd RewardSercice
# Dockerize edeceğimiz
touch Dockerfile
# bin ve obj klasörlerini dışarıda bırakmak için
touch .dockerignore
# Dockerize için
docker build -t rewards .
# Dockerize ettiğimiz servisi çalıştırırken de aşağıdaki komutu kullanabiliriz
# Aynı servisin 3 farklı porttan çalışacak birer örneğini ayağa kaldırıyoruz
docker run -d -p 5555:80 -p 5556:80 -p 5557:80 rewardsBu sefer http://localhost:5555/Calculator , http://localhost:5556/Calculator ve http://localhost:5557/Calculator adreslerinden talep alan bir Web API servisimiz var. Load Balancer ayarlarını ocelot.json'a ekledikten sonrasına bakalım.
{
"DownstreamPathTemplate": "/calculator",
"DownstreamScheme": "http",
"DownstreamHostAndPorts": [
{
"Host": "localhost",
"Port": 5555
},
{
"Host": "localhost",
"Port": 5556
},
{
"Host": "localhost",
"Port": 5557
}
],
"UpstreamPathTemplate": "/eagames/rewards",
"LoadBalancerOptions": {
"Type": "LeastConnection"
},
"UpstreamHttpMethod": [ "Get" ]
}Artık http://localhost:5000/eagames/rewards adresine geldiğimizde
Talepler LeastConnection seçimi nedeniyle her seferinde bir sonraki backend servisine yönlendirilecek.
Mesela GamerService'e gelen taleplerde araya girmeyi denedim. Bunu bir DelegatingHandler türevli bir sınıf ile kolayca yapabiliriz. Sanırım bu sayede Ocelot'a gelen bir Http isteğine cevap dönmeden önce araya girip bir takım iş kurallarını işletmek mümkün olabilir.
- Gateway arkasında XML içerik döndüren bir servis metodu olduğunu düşünelim. Gateway'e bu servis için gelen çağrı karşılığında XML yerine JSON döndürmemiz mümkün olur mu? Bunu Ocelot üzerinde tanımlayabilir miyiz?
- Dockerize ettiğimiz servisi üç farklı porttan ayağa kaldırdığımız bir container başlattık. Ocelot'un Load Balancer ayarları gereği eagames/rewards'a gelen talepler arkadaki port'lara seçilen stratejiye göre dağıtılıyor. Üç port'ta esas itibariyle aynı container'a (80 portuna) iniyor. Sizce gerçek anlamda bir Load Balancing oldu mu? Arkadaşlarınızla tartışınız.
- En az iki servisi daha farklı programlama dilleri ile senaryoya dahil ediniz (NodeJs, Java, Rust, GO olabilir mesela)
- RewardService'in geriye döndürdüğü bedava ödüller listesinde bilgiler kendisini tekrar edebiliyor. Tekilleştirmek için gerekli kod düzenlemesini yapın, docker imajını yeniden build edip container'ları tekrardan ayağa kaldırın.
- Load Balancer senaryolarında Stick Session dikkat edilmesi gereken bir konudur. Ocelot'ta Stick Session desteği var mıdır araştırınız?