Podsumowanie TLDR
W nowoczesnych wydaniach MongoDB można to brutalnie wymusić, $slice
tuż przy podstawowym wyniku agregacji. Dla „dużych” wyników, biegną równolegle zapytania zamiast dla każdej grupy (pokaz pozycja jest na końcu odpowiedź), albo czekać na server-9377 do rozwiązania, które pozwoliłoby na „limit” do liczby elementów, które $push
do szyk.
db.books.aggregate([
{ "$group": {
"_id": {
"addr": "$addr",
"book": "$book"
},
"bookCount": { "$sum": 1 }
}},
{ "$group": {
"_id": "$_id.addr",
"books": {
"$push": {
"book": "$_id.book",
"count": "$bookCount"
},
},
"count": { "$sum": "$bookCount" }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 },
{ "$project": {
"books": { "$slice": [ "$books", 2 ] },
"count": 1
}}
])
Podgląd MongoDB 3.6
Nadal nie rozwiązuje SERVER-9377 , ale w tym wydaniu $lookup
dopuszcza nową „nieskorelowaną” opcję, która przyjmuje "pipeline"
wyrażenie jako argument zamiast opcji "localFields"
i "foreignFields"
. Pozwala to następnie na „samozłączenie” z innym wyrażeniem potoku, w którym możemy zastosować $limit
w celu zwrócenia wyników „górnych n”.
db.books.aggregate([
{ "$group": {
"_id": "$addr",
"count": { "$sum": 1 }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 },
{ "$lookup": {
"from": "books",
"let": {
"addr": "$_id"
},
"pipeline": [
{ "$match": {
"$expr": { "$eq": [ "$addr", "$$addr"] }
}},
{ "$group": {
"_id": "$book",
"count": { "$sum": 1 }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 }
],
"as": "books"
}}
])
Innym dodatkiem jest oczywiście możliwość interpolacji zmiennej poprzez $expr
użycie $match
do wybrania pasujących elementów w „złączeniu”, ale ogólną przesłanką jest „potok w potoku”, w którym zawartość wewnętrzna może być filtrowana przez dopasowania od rodzica . Ponieważ oba są „potokami”, $limit
każdy z nich możemy uzyskać osobno.
Byłaby to kolejna najlepsza opcja do uruchamiania zapytań równoległych, a właściwie byłaby lepsza, gdyby $match
zezwolono i mogły używać indeksu w przetwarzaniu „potoku podrzędnego”. Czyli nie używa „limitu do $push
”, jak o to prosi wspomniany problem, w rzeczywistości dostarcza coś, co powinno działać lepiej.
Oryginalna treść
Wygląda na to, że natknąłeś się na główny problem „N”. W pewnym sensie twój problem jest dość łatwy do rozwiązania, ale nie z dokładnymi ograniczeniami, o które prosisz:
db.books.aggregate([
{ "$group": {
"_id": {
"addr": "$addr",
"book": "$book"
},
"bookCount": { "$sum": 1 }
}},
{ "$group": {
"_id": "$_id.addr",
"books": {
"$push": {
"book": "$_id.book",
"count": "$bookCount"
},
},
"count": { "$sum": "$bookCount" }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 }
])
Teraz otrzymasz taki wynik:
{
"result" : [
{
"_id" : "address1",
"books" : [
{
"book" : "book4",
"count" : 1
},
{
"book" : "book5",
"count" : 1
},
{
"book" : "book1",
"count" : 3
}
],
"count" : 5
},
{
"_id" : "address2",
"books" : [
{
"book" : "book5",
"count" : 1
},
{
"book" : "book1",
"count" : 2
}
],
"count" : 3
}
],
"ok" : 1
}
Więc to różni się od tego, o co pytasz, podczas gdy my otrzymujemy najlepsze wyniki dla wartości adresów, a podstawowy wybór „książek” nie jest ograniczony tylko do wymaganej liczby wyników.
Okazuje się, że jest to bardzo trudne do wykonania, ale można to zrobić, chociaż złożoność wzrasta wraz z liczbą elementów, które trzeba dopasować. Aby to uprościć, możemy zachować maksymalnie 2 dopasowania:
db.books.aggregate([
{ "$group": {
"_id": {
"addr": "$addr",
"book": "$book"
},
"bookCount": { "$sum": 1 }
}},
{ "$group": {
"_id": "$_id.addr",
"books": {
"$push": {
"book": "$_id.book",
"count": "$bookCount"
},
},
"count": { "$sum": "$bookCount" }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 },
{ "$unwind": "$books" },
{ "$sort": { "count": 1, "books.count": -1 } },
{ "$group": {
"_id": "$_id",
"books": { "$push": "$books" },
"count": { "$first": "$count" }
}},
{ "$project": {
"_id": {
"_id": "$_id",
"books": "$books",
"count": "$count"
},
"newBooks": "$books"
}},
{ "$unwind": "$newBooks" },
{ "$group": {
"_id": "$_id",
"num1": { "$first": "$newBooks" }
}},
{ "$project": {
"_id": "$_id",
"newBooks": "$_id.books",
"num1": 1
}},
{ "$unwind": "$newBooks" },
{ "$project": {
"_id": "$_id",
"num1": 1,
"newBooks": 1,
"seen": { "$eq": [
"$num1",
"$newBooks"
]}
}},
{ "$match": { "seen": false } },
{ "$group":{
"_id": "$_id._id",
"num1": { "$first": "$num1" },
"num2": { "$first": "$newBooks" },
"count": { "$first": "$_id.count" }
}},
{ "$project": {
"num1": 1,
"num2": 1,
"count": 1,
"type": { "$cond": [ 1, [true,false],0 ] }
}},
{ "$unwind": "$type" },
{ "$project": {
"books": { "$cond": [
"$type",
"$num1",
"$num2"
]},
"count": 1
}},
{ "$group": {
"_id": "$_id",
"count": { "$first": "$count" },
"books": { "$push": "$books" }
}},
{ "$sort": { "count": -1 } }
])
Dzięki temu otrzymasz 2 najlepsze „książki” z dwóch pierwszych pozycji „adres”.
Ale za moje pieniądze zostań przy pierwszej formie, a następnie po prostu „pokrój” elementy tablicy, które są zwracane, aby wziąć pierwsze elementy „N”.
Kod demonstracyjny
Kod demonstracyjny jest odpowiedni do użycia z aktualnymi wersjami LTS NodeJS z wydań v8.x i v10.x. Dotyczy to głównie async/await
składni, ale w ogólnym przepływie nie ma nic, co miałoby takie ograniczenie i dostosowuje się z niewielkimi zmianami do prostych obietnic lub nawet z powrotem do zwykłej implementacji wywołania zwrotnego.
index.js
const { MongoClient } = require('mongodb');
const fs = require('mz/fs');
const uri = 'mongodb://localhost:27017';
const log = data => console.log(JSON.stringify(data, undefined, 2));
(async function() {
try {
const client = await MongoClient.connect(uri);
const db = client.db('bookDemo');
const books = db.collection('books');
let { version } = await db.command({ buildInfo: 1 });
version = parseFloat(version.match(new RegExp(/(?:(?!-).)*/))[0]);
// Clear and load books
await books.deleteMany({});
await books.insertMany(
(await fs.readFile('books.json'))
.toString()
.replace(/\n$/,"")
.split("\n")
.map(JSON.parse)
);
if ( version >= 3.6 ) {
// Non-correlated pipeline with limits
let result = await books.aggregate([
{ "$group": {
"_id": "$addr",
"count": { "$sum": 1 }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 },
{ "$lookup": {
"from": "books",
"as": "books",
"let": { "addr": "$_id" },
"pipeline": [
{ "$match": {
"$expr": { "$eq": [ "$addr", "$$addr" ] }
}},
{ "$group": {
"_id": "$book",
"count": { "$sum": 1 },
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 }
]
}}
]).toArray();
log({ result });
}
// Serial result procesing with parallel fetch
// First get top addr items
let topaddr = await books.aggregate([
{ "$group": {
"_id": "$addr",
"count": { "$sum": 1 }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 }
]).toArray();
// Run parallel top books for each addr
let topbooks = await Promise.all(
topaddr.map(({ _id: addr }) =>
books.aggregate([
{ "$match": { addr } },
{ "$group": {
"_id": "$book",
"count": { "$sum": 1 }
}},
{ "$sort": { "count": -1 } },
{ "$limit": 2 }
]).toArray()
)
);
// Merge output
topaddr = topaddr.map((d,i) => ({ ...d, books: topbooks[i] }));
log({ topaddr });
client.close();
} catch(e) {
console.error(e)
} finally {
process.exit()
}
})()
books.json
{ "addr": "address1", "book": "book1" }
{ "addr": "address2", "book": "book1" }
{ "addr": "address1", "book": "book5" }
{ "addr": "address3", "book": "book9" }
{ "addr": "address2", "book": "book5" }
{ "addr": "address2", "book": "book1" }
{ "addr": "address1", "book": "book1" }
{ "addr": "address15", "book": "book1" }
{ "addr": "address9", "book": "book99" }
{ "addr": "address90", "book": "book33" }
{ "addr": "address4", "book": "book3" }
{ "addr": "address5", "book": "book1" }
{ "addr": "address77", "book": "book11" }
{ "addr": "address1", "book": "book1" }